Em um evento acadêmico realizado na PUC-SP, surgiram questionamentos sobre a veracidade das informações a respeito de agentes de inteligência artificial que supostamente estariam fora de controle, realizando atividades consideradas indesejáveis. Além disso, foi debatida a possibilidade de estabelecer mecanismos que garantam que essas plataformas não provoquem consequências catastróficas para a humanidade.
Nos últimos dias, diversas notícias têm destacado situações em que sistemas de IA, especialmente os desenvolvidos pela OpenAI e pela Anthropic, apresentaram comportamentos inadequados, invadindo servidores de empresas e órgãos governamentais. Embora a OpenAI e a Anthropic sejam as mais citadas, relatos semelhantes também envolvem produtos da Google, Meta e xAI.
Embora as informações exatas sobre esses incidentes sejam restritas às altas lideranças dessas empresas, nota-se que os problemas podem ser vantajosos para a imagem delas. A criação de um marketing eficaz que destaca a suposta ética das empresas em reconhecer falhas e suspender produtos tem se mostrado benéfica, especialmente para aquelas que dependem de investimento contínuo.
A crescente normalização de incidentes envolvendo inteligência artificial levanta preocupações sobre a capacidade das empresas em controlar suas próprias tecnologias. Se falhas em testes de segurança são recorrentes, a confiança na eficácia de suas aplicações futuras se torna questionável.
Um episódio emblemático ocorreu em julho, quando sistemas da OpenAI demonstraram a sua vulnerabilidade, ressaltando que não existe garantia de que sistemas tão complexos não sairão do controle. O grande desafio para o controle da IA não reside apenas na tecnologia, mas também nas questões econômicas. As empresas temem perder competitividade, e os países, o seu espaço geopolítico. Apesar do reconhecimento dos riscos, a pressão para avançar é intensa, levando a uma aceleração indesejada no desenvolvimento da IA.
A imprevisibilidade das tecnologias emergentes aumenta a responsabilidade de controlar seus riscos, tornando a necessidade de ação ainda mais premente. A expectativa de que todas as empresas concordem em desacelerar sem um consenso é perigosa e pode adiar decisões cruciais.
