Recentemente, foi identificado que Irã e China estão utilizando agentes autônomos de inteligência artificial para criar e gerenciar contas falsas em diversas redes sociais, incluindo Instagram, Facebook, X e TikTok. Essa prática foi revelada por autoridades dos Estados Unidos e especialistas em segurança digital.
Operações automatizadas nas redes sociais
Essas operações combinam modelos de IA de código aberto desenvolvidos na China com agentes que podem realizar tarefas de forma autônoma. Estima-se que centenas desses sistemas estejam em uso para abrir perfis, gerar publicações de caráter político e coordenar mensagens destinadas a manipular a opinião pública e intensificar debates nas plataformas digitais.
Diferenças em relação aos chatbots tradicionais
Os agentes de IA utilizados vão além das funções básicas dos chatbots, que geralmente se limitam a responder a perguntas. Eles são projetados para receber um objetivo específico e executar uma série de ações para alcançá-lo, como acessar redes sociais, preencher formulários, criar contas e publicar conteúdos de forma autônoma. Essa tecnologia possibilitou a automação completa do processo, desde a criação dos perfis até a disseminação das mensagens, com mínima intervenção humana.
Relatos indicam que muitos dos mecanismos de proteção contra a criação de contas falsas e manipulação de discussões foram desativados durante essas campanhas, facilitando a execução das operações.
Implicações para a cibersegurança
As características dessas operações levaram especialistas em cibersegurança e autoridades dos EUA a associar as campanhas a iniciativas governamentais do Irã e da China. Em contraste, outras ações semelhantes atribuídas a Israel foram realizadas por empresas privadas.
Embora as campanhas tenham sido consideradas tecnicamente simples e não tenham alcançado grande impacto, chamaram a atenção de serviços de inteligência e empresas de tecnologia. Isso se deve ao fato de que a utilização de agentes autônomos pode reduzir significativamente os custos e o trabalho necessário para manter redes de perfis falsos.
Novas etapas na influência digital
Historicamente, operações desse tipo exigiam equipes dedicadas à criação de contas e à elaboração de publicações. Com a implementação de agentes de IA, um número reduzido de operadores pode gerenciar centenas de perfis e gerar conteúdos de forma contínua. Além disso, essa tecnologia permite a adaptação rápida das mensagens a diferentes plataformas, temas e públicos-alvo.
A descoberta dessas práticas destaca uma nova fase nas campanhas de influência digital. O perigo não reside apenas na produção de conteúdos falsos, mas na automação que permite a criação de uma estrutura complexa para disseminar esses materiais, conferindo uma aparência de apoio espontâneo a narrativas específicas.
