Um recente estudo realizado pela empresa de segurança digital F-Secure, que entrevistou 1.500 consumidores nos Estados Unidos e no Reino Unido, revelou um panorama preocupante sobre o uso de assistentes de inteligência artificial (IA) no cotidiano. Os dados mostram uma contradição significativa: embora 89,5% dos participantes afirmem que a responsabilidade de verificar as respostas da IA é deles, 70,1% admitiram que conferem as informações apenas ocasionalmente, raramente ou nunca.
Esse paradoxo se torna ainda mais intrigante quando se considera a razão por trás da falta de checagem. O que se destaca não é a preguiça, a falta de tempo ou a ignorância sobre a verificação, mas sim a tendência de interromper questionamentos quando a resposta parece correta. Este fenômeno é chamado de viés de automação, que indica que, quanto mais fluente e confiante um sistema de IA parece, menos atenção os usuários prestam à veracidade das informações, independentemente de estarem corretas ou não.
Além disso, o estudo aponta que mais de um terço dos usuários que buscam confirmar uma resposta da IA acabam perguntando novamente à própria inteligência artificial, considerando essa abordagem uma forma de validação. Essa prática se assemelha a solicitar que uma testemunha confirme seu próprio depoimento, o que levanta preocupações sobre a confiabilidade das informações obtidas.
Um dado alarmante revelado pela pesquisa é a relação entre o uso de IA e a exigência de verificação. Entre os usuários que utilizam a tecnologia para tarefas simples, apenas 28,6% aceitam respostas sem conferi-las. Em contrapartida, entre aqueles que empregam a IA para diversas atividades, essa porcentagem salta para 59,7%. Essa crescente confiança nas respostas recebidas em tarefas triviais pode levar a uma aceitação inquestionável em situações mais críticas, como decisões trabalhistas.
Esses achados ressaltam a importância de desenvolver um repertório que permita aos profissionais identificar respostas incorretas que aparentam ser corretas. A formação de indivíduos com conhecimento e a implementação de estruturas de verificação eficazes são essenciais para mitigar os riscos associados ao uso da IA. Embora a tecnologia possa ser uma poderosa aliada em termos de produtividade, a disseminação de respostas erradas sem um ponto de verificação representa um desafio significativo.
Portanto, a questão que se coloca não é como forçar todos a ficarem mais atentos, uma vez que essa é uma batalha que a biologia parece ter vencido, mas sim: o que na sua operação atua como um mecanismo de verificação quando ninguém está conferindo?
