Sam Altman, CEO da OpenAI, defendeu que é necessário aceitar a ocorrência de “algumas coisas ruins” para aproveitar os benefícios da inteligência artificial, como fraudes e ataques cibernéticos. Essa declaração foi feita durante uma entrevista ao podcast Decoded e gerou discussões sobre os limites éticos do uso da tecnologia.
Riscos e benefícios da inteligência artificial
Durante a conversa, Altman foi questionado se aceitaria eliminar por completo os ataques e fraudes, mesmo que isso significasse barrar aplicações positivas da IA. Ele respondeu negativamente, afirmando que a tecnologia pode gerar “ordens de magnitude” mais benefícios do que prejuízos. O executivo acredita que restringir o acesso à IA concentraria poder em poucas empresas, limitando a autonomia dos usuários.
Limites da aceitação de riscos
Entretanto, Altman também ressaltou que não se pode ignorar riscos catastróficos, como a perda de controle sobre sistemas de inteligência artificial. Para ele, esses riscos não podem ser considerados um custo aceitável no processo de inovação.
Diferenças entre OpenAI e Anthropic
A declaração de Altman veio à tona em um contexto de divergências com a Anthropic, uma concorrente que defende regulamentações mais rigorosas para o desenvolvimento de modelos avançados de IA. O CEO da OpenAI mencionou que essa abordagem poderia resultar na concentração da tecnologia em um pequeno número de laboratórios em São Francisco, restringindo o acesso aos seus benefícios.
Aproximações e conflitos
Apesar das diferenças, ambos os lados têm mostrado algumas semelhanças. A OpenAI tem apoiado a realização de avaliações independentes de segurança e a implementação de regras específicas para modelos que apresentam riscos mais significativos. No entanto, a discussão central gira em torno da extensão dessas restrições e de como elas poderiam impactar o acesso à tecnologia.
Reações políticas à declaração de Altman
A declaração de Altman não passou despercebida no cenário político. O governador da Flórida, Ron DeSantis, criticou publicamente a ideia de que um pequeno grupo de executivos pode decidir quais riscos a população deve aceitar em nome dos benefícios da inteligência artificial. Essa crítica surge em um momento de tensão entre o estado da Flórida e a OpenAI, que enfrenta um pedido judicial para impedir o desenvolvimento de novos modelos sem a aprovação de salvaguardas independentes.
Adicionalmente, o cientista cognitivo Gary Marcus expressou sua preocupação nas redes sociais, afirmando que Altman revelou publicamente o que a indústria muitas vezes prefere manter implícito: a disposição de aceitar danos em prol da evolução tecnológica. Esta discussão continua a ser um ponto central nas conversas sobre o futuro da inteligência artificial e sua regulação.
