Uma mulher de Bonita Springs, na Flórida, foi detida após fazer ameaças ao Gabinete do Xerife local através do chatbot Claude, da Anthropic. Carli Michelle Heller, de 36 anos, usou a inteligência artificial como um diário virtual e, em uma conversa, mencionou que pretendia atacar a instituição. A situação se intensificou quando, no dia seguinte, ela revelou ter adquirido uma nova arma.
Monitoramento e Ação Rápida
O sistema de segurança automatizado da Anthropic detectou a mensagem como potencialmente ameaçadora e acionou uma análise humana. Após a revisão do conteúdo, a equipe decidiu notificar as autoridades, levando à intervenção policial. O xerife Carmine Marceno relatou que Heller foi presa em sua residência sem resistência.
Consequências Legais
A mulher enfrenta uma acusação de fazer uma ameaça de violência por escrito, conforme as leis da Flórida. Durante a investigação, Heller afirmou que utilizava Claude para registrar seus pensamentos e emoções, mas não percebeu a gravidade de suas declarações.
“O uso indevido da inteligência artificial pode ter repercussões sérias”, afirmou Marceno, ressaltando que todas as ameaças devem ser tratadas com seriedade. Ele também alertou que os usuários não devem se sentir completamente anônimos ao interagir com tecnologias de IA, como chats e buscas.
A Perspectiva da Academia
Chrissann Ruehle, professora de IA e gestão na Florida Gulf Coast University, comentou sobre a tendência das pessoas em utilizar chatbots para expressar sentimentos, acreditando que a máquina não irá julgá-las. “É importante lembrar que a IA não é um confidente; é uma tecnologia que precisa ser usada com responsabilidade”, frisou.
A situação envolvendo Carli Michelle Heller serve como um alerta sobre os riscos de interagir com ferramentas de inteligência artificial. A necessidade de conscientização sobre o uso seguro e ético dessas tecnologias é mais pertinente do que nunca.
