Jack Clark, cofundador da Anthropic, uma das principais empresas de inteligência artificial, defende a implementação de um “botão de desligamento” que possa ser verificado de forma independente. Segundo ele, essa medida é crucial para garantir a segurança da IA e deve ser considerada na regulamentação do setor.
Importância do ‘botão de desligamento’
Clark enfatiza que, embora a maioria dos laboratórios de IA, incluindo a Anthropic, possua métodos para desativar suas tecnologias, a presença de um sistema de desligamento verificado por terceiros deveria ser uma exigência legislativa. “Deveríamos exigir que as empresas implementassem um botão de desligamento automático? Esse botão pode ser auditado por entidades externas?”, questionou.
Preocupações com o avanço da IA
A crescente inquietação sobre os riscos da inteligência artificial foi amplamente discutida por líderes da indústria, especialmente após alertas de executivos sobre os perigos dessa tecnologia. O diretor-executivo da Anthropic, Dario Amodei, também manifestou preocupação e pediu uma desaceleração no ritmo de desenvolvimento da IA, ressaltando a necessidade de um monitoramento mais rigoroso.
Perspectivas alarmantes
Evan Hubinger, um ex-pesquisador da Anthropic, expressou sua crença de que a possibilidade de a IA levar à extinção da humanidade poderia ser de 10% na próxima década, uma estimativa que o renomado cientista Geoffrey Hinton, conhecido como o “Pai da IA”, considerou “não irrazoável”. Clark, ao ser questionado sobre essas estatísticas, destacou que permitir que a IA opere numa “indústria totalmente desregulamentada” seria irresponsável.
Legislação em andamento
Nos Estados Unidos, um projeto de lei conhecido como “Kill Switch Act” foi proposto, exigindo que as empresas tenham um mecanismo para desativar sistemas de IA problemáticos. Essa legislação também daria poder a agências governamentais para exigir a desativação de tais ferramentas. Em contraste, o ex-presidente Donald Trump rejeitou as preocupações sobre a IA, afirmando que as alegações de que a tecnologia poderia dominar o mundo são exageradas.
Reações da indústria
Embora existam alertas sobre os riscos da IA, alguns líderes da indústria consideram que as preocupações podem ser exageradas. Clement Delangue, da Hugging Face, e George Arison, do Grindr, argumentam que os medos são usados para justificar planos de negócios e que é necessário manter uma perspectiva equilibrada sobre os riscos reais.
A Anthropic, que lançou recentemente modelos avançados de IA como Claude, está no centro desse debate sobre segurança. A empresa se prepara para uma oferta pública inicial (IPO) que pode ser histórica, enquanto a OpenAI, sua concorrente, também enfrenta desafios relacionados à segurança da IA antes de seguir com seus próprios planos de IPO. A discussão sobre os riscos da inteligência artificial e a necessidade de regulamentação continua a ser uma questão urgente na sociedade contemporânea.
