O intenso debate sobre a inteligência artificial gerou uma nova reflexão de Timnit Gebru, uma das figuras mais respeitadas e críticas desse setor. Para ela, a discussão acerca da possível extinção da humanidade devido à IA desvia a atenção de riscos já palpáveis e em andamento.
Narrativas enganosas sobre a IA
Gebru, em entrevista à revista WIRED, argumenta que a indústria de inteligência artificial manipula avanços em áreas como matemática e programação para criar uma narrativa de que a tecnologia está se aproximando de uma forma de inteligência geral superior. Essa percepção, segundo ela, é alimentada por disputas, como a recente entre a OpenAI e um matemático, que levantaram questões sobre apropriação de trabalhos e a ética nas comunicações corporativas.
Questões de avaliação e cultura de pesquisa
A pesquisadora critica a rapidez com que anúncios de empresas se transformam em debates políticos e regulatórios, citando a Declaração de Leiden. Esse documento ressalta a importância de uma avaliação rigorosa por especialistas acadêmicos, em vez de confiar apenas em comunicados empresariais e cobertura da mídia. Gebru observa que a pressão comercial crescente tem mudado a dinâmica de colaboração nas pesquisas, que antes eram comuns entre grandes empresas de tecnologia.
A verdadeira natureza dos riscos
Embora reconheça as preocupações sobre a atuação das companhias de IA, Gebru discorda da ideia de que o maior perigo reside em sistemas autônomos fora de controle. Ela lembra que já abordava essa temática em 2021, ao participar da publicação do artigo “stochastic parrots”, que discutiu os limites dos modelos de linguagem. Para exemplificar sua visão, ela usa a metáfora de uma ponte, enfatizando que a responsabilidade por falhas não deve ser atribuída à estrutura, mas sim à qualidade do projeto e aos testes realizados.
Problemas concretos e urgentes
Na opinião de Gebru, as verdadeiras ameaças existenciais associadas à IA são mais diretas e já estão visíveis. Ela menciona o uso de IA em armas autônomas, que têm sido empregadas em conflitos, e observa como a tecnologia é utilizada para justificar demissões em massa em diversas empresas. Para ela, a narrativa da “máquina divina” serve como uma distração de problemas que afetam a vida de milhões, como a crise climática e a violência.
O futuro da IA e sua relação com os riscos existentes
Gebru expressa ceticismo em relação a cenários futurísticos que preveem a extinção da humanidade por IA. Ela questiona a plausibilidade dessas possibilidades, que geralmente pressupõem que uma máquina desenvolva objetivos incompatíveis com a sobrevivência humana. Em vez disso, enfatiza que ameaças mais imediatas, como eventos climáticos extremos e o uso de tecnologia para o desenvolvimento de armas biológicas e químicas, merecem maior atenção.
Conforme Gebru ressalta, a obsessão com cenários apocalípticos da IA reflete uma desconexão em relação aos riscos já enfrentados por muitos. Ela acredita que a fixação em previsões sobre máquinas superinteligentes, que têm circulado há décadas, ofusca discussões mais relevantes sobre os impactos reais da tecnologia em nossa sociedade.
