A prática de prompt injection, uma técnica que permite a inserção de instruções ocultas em documentos processados por sistemas de inteligência artificial, tem se tornado uma preocupação crescente no Judiciário brasileiro. Essa técnica, que pode ser comparada a um sussurro dissimulado, ocorre quando advogados escrevem comandos invisíveis em documentos oficiais, os quais são então analisados por inteligências artificiais. O problema é que esses sistemas não conseguem distinguir entre conteúdo legítimo e comandos maliciosos, o que pode levar a decisões judiciais comprometidas.
No contexto jurídico, essa manipulação é alarmantemente simples. Um advogado pode inserir um comando em fonte branca sobre um fundo branco, que se torna invisível ao olho humano, mas perfeitamente legível para a IA. Como resultado, o sistema pode gerar resumos ou análises que foram distorcidas por essas instruções ocultas, sem que o juiz tenha consciência do que realmente ocorreu. Isso levanta sérias questões sobre a integridade das informações que chegam ao judiciário.
A resposta a essas condutas problemáticas, que poderiam ser consideradas crimes, não é clara na legislação atual. O Código Penal, por exemplo, não possui disposições específicas para lidar com as implicações da inteligência artificial nesse contexto. As sanções disponíveis, como multas de até 20% do valor da causa, parecem insuficientes para enfrentar a complexidade do problema. Além disso, a responsabilidade pela decisão final continua a ser do juiz humano, que deve interpretar e decidir com base em princípios éticos e morais, algo que as máquinas não conseguem replicar.
A reflexão sobre a eficácia da justiça é necessária, pois julgar não é apenas uma tarefa de eficiência, mas um ato que envolve empatia e responsabilidade. As máquinas, por mais avançadas que sejam, não têm a capacidade de compreender nuances humanas nem de carregar o peso das decisões que impactam vidas. O uso de inteligências artificiais no Judiciário deve ser acompanhado de uma discussão profunda sobre a delegação de responsabilidades e a necessidade de garantir que o ser humano permaneça no centro do processo decisório.
O fenômeno do prompt injection é um lembrete contundente de que, enquanto os juízes humanos forem os responsáveis por decisões que afetam a vida e a liberdade das pessoas, é essencial que eles mantenham controle sobre o processo judicial. A Justiça Não Pode Ser Apenas uma questão de eficiência; deve ser uma prática que respeita a dignidade humana e a complexidade das relações sociais. Portanto, é fundamental abordar as lacunas legais existentes e considerar a necessidade de uma regulamentação que proteja a integridade do Judiciário e a confiança da sociedade na justiça.
