O avanço da inteligência artificial traz à tona uma questão crucial: quem define os limites e assume a responsabilidade pelas decisões tomadas por esses sistemas? Essa preocupação foi intensificada pelas declarações de Jacob Coxon, que trabalhou na OpenAI e recentemente deixou a Anthropic. Ele expressou sua apreensão em relação à possibilidade de sistemas cada vez mais autônomos evoluírem de forma mais rápida que os mecanismos de controle, mencionando até cenários extremos que poderiam ameaçar a sobrevivência humana.
Embora a hipótese de extinção provocada pela inteligência artificial não tenha consenso entre os especialistas, muitos acreditam que o debate deve focar em problemas já existentes, como desinformação, ataques cibernéticos e discriminação algorítmica. A repercussão do alerta de Coxon destaca uma preocupação real: os sistemas estão se tornando mais poderosos e autônomos, enquanto as regras e mecanismos de responsabilização estão se desenvolvendo em um ritmo mais lento.
Alcir Abuchaim, CEO da i4t (Intelligence for Transformation), enfatiza que a segurança da inteligência artificial deve começar com a capacidade humana de definir até onde a tecnologia pode ir. Ele afirma que, quanto mais autonomia uma IA possui, maior deve ser a governança sobre ela. “Precisamos saber quem estabelece os limites, quem supervisiona seu funcionamento e quem responde pelas decisões. Segurança em IA começa com gestão humana”, explica Abuchaim.
Esse desafio não é mais exclusivo das grandes empresas de tecnologia. Governos, bancos, hospitais, escolas e órgãos públicos estão adotando ferramentas que analisam dados, produzem conteúdos e até auxiliam na tomada de decisões. Contudo, a implementação dessas tecnologias requer uma definição clara sobre quais informações poderão ser acessadas, quais decisões serão automatizadas e como erros podem ser identificados e corrigidos.
Abuchaim ressalta que a tecnologia deve ampliar a capacidade humana, sem substituir a responsabilidade que cabe a nós. Para discutir esses e outros aspectos, será realizado o 1º Fórum MS de IA Segura no dia 25 de novembro, em Mato Grosso do Sul. O evento, organizado em parceria entre o Campo Grande News e a i4t, reunirá representantes de diferentes setores para debater segurança, governança, soberania de dados e a participação humana no desenvolvimento e uso da inteligência artificial.
O objetivo do fórum é aproximar Mato Grosso do Sul de um debate que já mobiliza governos, pesquisadores e empresas em várias partes do mundo. Mais do que tentar prever o futuro da inteligência artificial, é essencial definir, desde já, quem será responsável por sua condução e supervisão.
