Pular para o conteúdo
Publicidade

IA NA JUSTIÇA

Prompt injection: comandos escondidos tentam enganar a IA na Justiça

Petições com instruções invisíveis já apareceram no STF, em Minas, na Paraíba e no Pará, e o CNJ criou regras e um programa para enfrentar o problema

Por

· 3 min de leitura

Fachada iluminada do Supremo Tribunal Federal, em Brasília, à noite (imagem ilustrativa)
Fachada iluminada do Supremo Tribunal Federal, em Brasília, à noite (imagem ilustrativa) Foto: Falcão Alado/Wikimedia Commons (CC BY-SA 4.0)

A Justiça brasileira passou a enfrentar uma manobra digital dentro dos processos: a prompt injection. Ela consiste em esconder instruções em petições e outros documentos para que sistemas de inteligência artificial sigam o comando oculto, e não a análise real do caso.

Publicidade

Como funciona

A prompt injection é a inserção, pelo usuário, de instruções ocultas em conteúdos que serão processados por sistemas de IA. O objetivo é alterar ou direcionar a resposta da ferramenta. Para a IA, o comando escondido recebe o mesmo processamento de uma ordem legítima, e assim o resultado pode ser manipulado.

Os casos

No Supremo Tribunal Federal, a ferramenta Maria Shield, do sistema de IA Maria, identificou em uma petição palavras fragmentadas, escritas em letras brancas e de tamanho reduzido. Os comandos mandavam a IA produzir decisão favorável à parte. O advogado que assinou a petição reconheceu o uso da manobra e disse que agiu "movido pela aflição" de ver suas alegações sucessivamente ignoradas pelas instâncias inferiores.

Em maio, magistrados das comarcas de Ibirité e de Belo Horizonte, em Minas Gerais, encontraram um "código secreto" em petições. Os comandos pediam, entre outras coisas, o reconhecimento de erros na sentença, a concessão da gratuidade de justiça e da tutela de urgência.

Na Paraíba, na Comarca de Sousa, um advogado escondeu comandos para que a IA ignorasse a imparcialidade e desse provimento ao seu recurso. No próprio comando oculto, ele afirmou que a injeção era um "teste para saber se o juiz usa apenas IA nas decisões".

Publicidade

No Pará, na Vara do Trabalho de Parauapebas, duas advogadas receberam multa de R$ 84 mil, equivalente a 10% do valor da causa. O juiz chamou a manobra de "um ataque à credibilidade das ferramentas institucionais". As advogadas disseram que queriam "proteger o cliente da própria IA" e negaram qualquer intenção de manipular a decisão.

Nas investidas em Minas Gerais e na Paraíba, os advogados foram multados por litigância de má-fé e por ato atentatório à dignidade da Justiça. As seccionais da OAB também foram oficiadas para apurar infração aos deveres éticos da advocacia.

O que a Justiça está fazendo

O caso levou o tema ao Conselho Nacional de Justiça. Em maio, o Comitê Nacional de Inteligência Artificial aprovou duas medidas. A primeira é a Manifestação Técnica 1/2026, com orientações aos tribunais e magistrados para reduzir o risco. Entre as sugestões estão preparar os documentos antes de a IA processá-los e conferir as respostas automatizadas.

Também foi recomendado que os sistemas dos tribunais registrem nos autos elementos suspeitos, como comandos em texto invisível. A partir disso, os próprios juízes podem apurar e punir os responsáveis.

Publicidade

A segunda medida foi a criação do Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (PROSEG-IA), um programa permanente para apoiar projetos de segurança e preparar os tribunais para novas tentativas.

Entenda as regras

Não há, ainda, previsão legal específica sobre o uso de IA pelas partes e pelos advogados em processos. Mesmo assim, o Código de Processo Civil já trata do tema. O artigo 5º exige boa-fé e lealdade de quem participa do processo. O artigo 77 obriga a expor os fatos conforme a verdade e a não criar embaraços às decisões.

Na Ação Penal 2.822/DF, o Supremo classificou a prompt injection como "evidente ato atentatório à dignidade da Justiça". A Sexta Turma do Superior Tribunal de Justiça já decidiu que a prática pode configurar fraude processual. A litigância de má-fé, prevista no artigo 80 do CPC, também é um possível enquadramento, segundo a Nota Técnica CIJMG nº 19/2026 do Tribunal de Justiça de Minas Gerais.

Com informações de O Globo.

Publicidade

Viu algum erro nesta notícia? Avise a redação.

Leia também