Pular para o conteúdo
Publicidade

ALERTA

Agentes de IA na Justiça podem ser usados para vazar dados sigilosos, alerta juiz

Juiz do CNJ diz que programas de IA usados pelos tribunais podem ser manipulados de fora para acessar processos, senhas e dados pessoais de magistrados e servidores.

Por

· 2 min de leitura

Chave antiga sobre teclado de notebook, representando risco de acesso indevido a dados (imagem ilustrativa)
Chave antiga sobre teclado de notebook, representando risco de acesso indevido a dados (imagem ilustrativa) Foto: User:Nikowsk/Wikimedia Commons (CC BY-SA 4.0)

Agentes de inteligência artificial usados nos tribunais podem ser manipulados por pessoas de fora para roubar informações sigilosas. O alerta é do juiz federal George Marmelstein, integrante do Comitê Nacional de Inteligência Artificial do Judiciário, ligado ao Conselho Nacional de Justiça (CNJ). Segundo ele, o risco vai além dos processos: senhas e dados pessoais de juízes e servidores também podem ser alvo.

Publicidade

Para quem não trabalha na Justiça, vale entender o que é um agente. São programas de IA criados para executar tarefas de forma automática na rotina dos tribunais. Quando alguém de fora consegue dar comandos a esse programa, ele pode acessar e vazar o que deveria ficar protegido.

Entenda o problema

O caso tem nome técnico: prompt injection, ou injeção de comandos. A prática consiste em esconder instruções em conteúdos que serão lidos por uma IA, de um jeito que a pessoa quase não percebe. As ordens podem estar em letras brancas sobre fundo branco, em fontes muito pequenas ou em códigos embutidos nos arquivos.

O problema já aparece na prática. Uma reportagem do Fantástico, exibida em 1º de novembro, mostrou advogados inserindo instruções escondidas em documentos para tentar influenciar ferramentas de IA que juízes usam na análise de processos. Ao todo, foram identificados 83 episódios. A prática já resultou em multas no Superior Tribunal de Justiça (STJ) e no Supremo Tribunal Federal (STF).

O que muda com esse risco

Marmelstein vê o problema como uma evolução do que já acontece. Agora, o perigo não é só alterar a análise feita por uma IA. Ele pode levar ao vazamento de informações de processos que correm em sigilo e de dados de quem trabalha nos tribunais.

Publicidade

Os tribunais passam a lidar com um tipo de ataque que se esconde no próprio documento. Quem recebe uma petição dificilmente vê, a olho nu, uma instrução escondida nela.

Com informações de g1.globo.com.

Publicidade

Viu algum erro nesta notícia? Avise a redação.

Leia também