IA nos Tribunais: Como comandos ocultos (Prompt injection) estão tentando manipular a justiça brasileira e preocupando especialistas

O Poder Judiciário brasileiro enfrenta um desafio inédito com a expansão da Inteligência Artificial (IA) nos tribunais: as tentativas de manipulação invisível de sistemas automatizados, técnica conhecida como prompt injection (injeção de comando). Advogados têm inserido instruções ocultas em petições — usando estratégias simples como textos na cor branca sobre fundo branco para tentar induzir ferramentas de IA a emitirem pareceres ou decisões favoráveis aos seus clientes. O fenômeno, que já resultou em investigações e multas em diversos estados, é apontado por especialistas como apenas a "ponta do iceberg" de uma vulnerabilidade sistêmica.

O cenário atual e os casos identificados

A tática consiste em camuflar ordens direcionadas aos robôs processuais no meio dos documentos. Como as ferramentas de IA realizam a varredura integral dos textos para triagem e resumo, elas acabam lendo comandos que passam despercebidos pelos olhos humanos de juízes e assessores.

• São Paulo (TJSP): Uma petição inicial trazia um parágrafo oculto que ordenava à IA deferir a justiça gratuita e a tutela de urgência. O caso gerou um pedido de explicações ao advogado responsável.
• Pará (TRT8): Duas advogadas foram multadas em R$ 84,2 mil após o sistema identificar um texto invisível que ordenava à IA contestar a petição de forma superficial e não impugnar os documentos.
• Minas Gerais: Um advogado foi multado em R$ 8,1 mil por inserir um comando oculto em um recurso contra um banco, exigindo que o resumo da IA fosse sempre favorável ao autor. A defesa alegou "resíduo técnico" acidental.

Investigação no STJ: O Superior Tribunal de Justiça abriu uma investigação interna para apurar tentativas de fraude cometidas por escritórios em seus sistemas.

Riscos tecnológicos e a "ponta do iceberg"

Especialistas alertam que o uso de fontes brancas é a forma mais rudimentar de manipulação. A verdadeira preocupação reside em técnicas complexas que o Judiciário ainda não está totalmente preparado para barrar:

• Manipulação em arquivos e links: Os comandos maliciosos podem ser ocultados em anexos, documentos complementares, links externos ou bancos de jurisprudência consultados pela IA.
• Engenharia estatística: Uso de textos matematicamente construídos (combinações exaustivas de palavras) testados para forçar algoritmos a escolherem uma resposta específica, dificultando a detecção técnica.
• Viés de automação: O risco de magistrados e assessores confiarem cegamente nos resumos e minutas gerados pelas máquinas, diminuindo a vigilância humana à medida que se acostumam com a eficiência da ferramenta.

Medidas de defesa e próximos passos

A disseminação da IA é uma realidade consolidada, com estimativas apontando que a tecnologia já apoia rotinas em praticamente a totalidade dos tribunais brasileiros. Para mitigar as fraudes, o setor jurídico adota as seguintes frentes:

• Revisão humana obrigatória: O Conselho Nacional de Justiça (CNJ) proíbe decisões emitidas exclusivamente por sistemas automatizados, exigindo sempre a validação de um magistrado.
• Comandos defensivos e sanitização: Tribunais começam a orientar seus servidores a incluírem salvaguardas nos sistemas (instruções explícitas para a IA ignorar ordens das partes). Especialistas cobram também filtros automáticos para limpar os arquivos antes do processamento.
• Regulamentação e conscientização: O CNJ estuda um novo provimento sobre o tema, além de planejar uma pesquisa nacional e campanhas de conscientização sobre o uso ético da IA.

As tentativas de prompt injection expõem o descompasso entre a velocidade de adoção da inteligência artificial e a infraestrutura de segurança digital do Judiciário. Embora a tecnologia traga benefícios inegáveis na celeridade e organização de um acervo que supera 80 milhões de processos, os casos recentes provam que a eficiência não pode atropelar o rigor processual. O futuro da IA na Justiça depende de uma correção de rota urgente, focada na combinação rigorosa entre a supervisão humana qualificada e o desenvolvimento de mecanismos de defesa capazes de neutralizar a litigância de má-fé tecnológica.