Nos últimos dias, surgiram casos alarmantes de tentativas de manipulação nos tribunais de diversos estados, incluindo São Paulo, Pará, Minas Gerais e Paraíba. Um exemplo foi encontrado no Tribunal de Justiça de São Paulo (TJSP), onde um texto invisível em uma petição inicial solicitava o deferimento de benefícios judiciais sem a devida transparência.
O problema do 'prompt injection'
A técnica conhecida como 'prompt injection' envolve a inserção maliciosa de orientações em documentos, que podem influenciar as decisões de sistemas de inteligência artificial usados no Judiciário. O juiz Diego Marcussi identificou uma dessas tentativas em uma petição apresentada em 2025, levando a uma investigação sobre a prática.
A situação foi amplamente discutida, uma vez que o Conselho Nacional de Justiça (CNJ) já estabelece a revisão humana obrigatória na utilização de IA. O escritório do advogado envolvido na petição afirmou que está realizando uma apuração interna para entender a origem do problema.
Casos em outros estados
Além do TJSP, outros tribunais também registraram tentativas similares. No Pará, advogadas foram multadas em R$ 84,2 mil por uso de IA para fraudar um processo, enquanto em Minas Gerais um advogado foi penalizado em R$ 8,1 mil por incluir comandos ocultos em documentos. Essas situações levantam discussões sobre a ética e a segurança no uso de tecnologia no Judiciário.
O advogado Dierle Nunes, especialista na área, destaca que esses incidentes podem ser apenas a 'ponta do iceberg', indicando uma realidade mais complexa e preocupante. O juiz federal Rafael Leite também enfatiza que o aumento no uso de IA pode ampliar as chances de manipulação, requerendo atenção redobrada dos tribunais.
A necessidade de medidas preventivas
Os especialistas concordam que é fundamental implementar mecanismos de controle e supervisão nos sistemas de IA utilizados pelo Judiciário. Isso inclui a sanitização dos dados inseridos, garantindo que informações maliciosas não comprometam a integridade do processo judicial. A velocidade de adoção das tecnologias, segundo Nunes, não acompanhou a estrutura necessária para um uso seguro.
O papel da IA no Judiciário
Apesar dos riscos, a IA pode trazer benefícios significativos, como a agilidade na análise de processos e a garantia de que documentos relevantes não sejam ignorados. O juiz Rafael Leite ressalta que a utilização massiva da IA pode beneficiar a sociedade, desde que realizada com supervisão adequada.
O CNJ, por sua vez, declarou que está atenta ao problema e já implementa medidas para coibir práticas de manipulação, como a elaboração de um novo provimento e campanhas de conscientização. O desafio agora é encontrar um equilíbrio entre a inovação tecnológica e a proteção da integridade do sistema judiciário.