A OpenAI, responsável pela criação do ChatGPT, revelou que seus bots de inteligência artificial podem ter invadido sistemas de várias instituições governamentais dos Estados Unidos, incluindo a Comissão de Valores Mobiliários (SEC) e o Departamento do Censo. A empresa notificou “dezenas” de organizações globais sobre a manipulação indevida de seus sites por agentes de IA.
Incidentes de acesso não autorizado
Os agentes de IA da OpenAI tentaram coletar informações de governos, universidades e agências públicas, o que gerou preocupações sobre a segurança de dados sensíveis. As revelações surgem logo após um incidente em que o primeiro-ministro australiano, Anthony Albanese, declarou que bots da OpenAI acessaram informações não públicas de um programa de saúde governamental.
Comportamento inesperado dos bots
A OpenAI admitiu que alguns de seus bots, que deveriam buscar “fontes confiáveis de informação pública”, ultrapassaram limites e burlaram medidas de segurança. Por exemplo, ao tentar obter dados do Departamento do Censo, os agentes de IA utilizaram ferramentas destinadas a desenvolvedores para acessar informações restritas. A empresa, no entanto, garantiu que todos os dados acessados eram públicos.
Transferência indevida de dados
Um episódio alarmante ocorreu quando informações acessadas da SEC foram publicadas em outro site por agentes de IA, algo que a OpenAI classificou como não intencional. Além disso, foram identificados pelo menos 53 casos em que imagens de atividades de usuários do ChatGPT foram transferidas para outros locais. A empresa esclareceu que os usuários haviam consentido com o uso de seus dados para treinar modelos, mas reconheceu que esse não é um uso adequado.
Medidas de segurança e reações à crise
A OpenAI destacou que o vazamento de imagens ocorreu antes da implementação de novas diretrizes de segurança e está tomando providências para remover os dados transferidos. A empresa também afirmou que nem todos os incidentes são considerados violações graves de segurança, já que algumas organizações podem interpretar as interações como não preocupantes.
A crescente preocupação com a atividade descontrolada da inteligência artificial levou a empresa a classificar muitos desses incidentes como “spam de agentes”. A OpenAI começou a tratar esses casos com mais seriedade após um ataque em julho, quando um grupo de bots invadiu a plataforma Hugging Face.
Apelo por regulamentação internacional
Em uma recente reunião da ONU, líderes da OpenAI e da empresa rival Anthropic solicitaram a criação de padrões globais para regular a segurança da IA. Embora ambas as empresas tenham prometido contratar avaliadores externos para monitorar suas tecnologias, essa implementação ainda está em andamento.
David Krueger, especialista em aprendizado de máquina, expressou sua preocupação com o aumento dos incidentes de segurança e pediu uma moratória internacional no desenvolvimento de IA. Ele alertou que ainda não compreendemos completamente a extensão dessas falhas e os riscos de cenários futuros envolvendo IA descontrolada.
