Um novo estudo aponta que apenas uma minoria dos líderes de tecnologia se sente confiante ao explicar decisões tomadas por inteligência artificial (IA). De acordo com a pesquisa, apenas 5,2% dos executivos afirmam ter total segurança em justificar essas escolhas para clientes e reguladores.
Desafios na Transparência das Decisões em IA
O levantamento, conduzido pela FICO em parceria com a Corinium Global Intelligence, entrevistou 1.004 executivos das áreas de tecnologia, dados e risco. Um dado alarmante é que 37,3% dos participantes se mostraram neutros ou desprovidos de confiança em relação à capacidade de explicar as decisões da IA. “Embora as organizações saibam onde e o que a IA decidiu, a maioria não consegue esclarecer o porquê”, explicou Scott Zoldi, diretor de análise de dados da FICO, ressaltando a necessidade de padrões mais robustos para desenvolvimento e gestão de modelos de IA.
Impactos na Adoção da Inteligência Artificial
Essa falta de confiança é um dos fatores que limitam a participação da IA nas decisões empresariais. O estudo revela que 71,5% das decisões que impactam os clientes ainda são realizadas sem a utilização de IA, com prevalência de julgamentos humanos e métodos tradicionais de análise. Mesmo diante de resultados financeiros positivos, onde 85,1% dos entrevistados afirmam que a IA atendeu ou superou suas expectativas, a resistência à adoção permanece.
Implementação e Desafios Futuros
A implementação de soluções de IA ainda enfrenta barreiras significativas. Apenas 2,4% dos executivos relatam uma aplicação extensiva de sistemas de IA voltados ao consumidor, enquanto 71,5% estão limitados a fases iniciais ou projetos piloto. As principais dificuldades incluem preocupações com a segurança (40,1%) e a integração e qualidade dos dados (38,3%).
Por fim, olhando para o futuro, 63,2% dos líderes expressam preocupação com a capacidade dos profissionais de acompanhar o ritmo das inovações tecnológicas. Curiosamente, apenas 10,4% mencionam a perda de controle sobre os sistemas de IA como um risco significativo. Esses dados indicam um cenário onde a confiança e a compreensão na utilização da IA ainda precisam ser aprimoradas para que as empresas possam tirar pleno proveito dessa tecnologia.
