A Justiça de Minas Gerais detectou tentativas de manipulação em sistemas de inteligência artificial em documentos utilizados em processos judiciais. Em duas situações, juízes relataram a presença de comandos ocultos inseridos nos autos, uma prática conhecida como prompt injection. Essa técnica envolve a inclusão de instruções disfarçadas em um texto com a intenção de levar sistemas de IA a gerar respostas favoráveis a uma das partes envolvidas. Tal comportamento foi considerado uma tentativa de interferir na análise dos processos e comprometer a equidade entre os litigantes.
[links]
Um dos incidentes foi descoberto por uma juíza da 1ª Vara Cível da Comarca de Ibirité, localizada na Região Metropolitana de Belo Horizonte. Ela percebeu que havia instruções ocultas em um recurso de apelação cível que foi enviado para a segunda instância.
Apesar do recorrente ter desistido do recurso, a magistrada decidiu investigar a conduta, pois a outra parte já havia sido notificada para apresentar sua resposta. Em sua decisão, ela rejeitou a alegação de erro técnico e considerou o ato como um exemplo de má-fé intencional e um ataque à dignidade da Justiça.
A juíza argumentou que o comando escondido poderia influenciar uma possível decisão desfavorável à parte recorrida, violando assim o princípio da paridade de armas, que visa assegurar equilíbrio entre as partes durante o trâmite processual.
Como penalização, foi imposta uma multa equivalente a cinco salários mínimos. Além disso, a juíza determinou o envio de ofícios à OAB-MG e à Polícia Civil de Minas Gerais para que fossem realizadas investigações éticas e criminais sobre o caso.
Um caso análogo ocorreu na 29ª Vara Cível da capital mineira. O juiz encontrou um comando oculto em uma manifestação processual, redigido com fonte e fundo brancos. Esse texto buscava orientar um potencial sistema de IA a favorecer os pedidos da parte autora.
O magistrado concluiu que essa inserção foi intencional e tinha o objetivo claro de induzir modelos linguísticos a desconsiderar os critérios jurídicos estabelecidos pelo Tribunal. Em decorrência disso, ele aplicou multas cumulativas e encaminhou uma denúncia à OAB-MG para investigação ética.
O post Justiça pune advogados por manipular processos com IA em BH e Região Metropolitana apareceu primeiro em DeFato Online.