Uma tentativa de manipulação dentro de um processo judicial em tramitação no Tribunal de Justiça de Goiás (TJGO) foi identificada recentemente pelas ferramentas de segurança tecnológica da própria Corte. O sistema apontou a presença de comandos ocultos inseridos em um documento processual com potencial de interferir em análises realizadas por inteligência artificial.

A prática é conhecida como prompt injection e consiste na inclusão de instruções escondidas em textos, arquivos ou petições analisadas por sistemas automatizados. Esses comandos normalmente não são percebidos por quem visualiza o documento, já que ficam camuflados por recursos como fonte reduzida ou texto com cor semelhante ao fundo da página.

Embora passem despercebidos ao olhar humano, esse tipo de conteúdo pode ser interpretado por ferramentas de inteligência artificial durante a leitura digital do material, influenciando respostas, resumos ou classificações feitas pelo sistema.

Após a detecção, as equipes técnicas do TJGO emitiram alertas internos e encaminharam o material ao relator responsável pelo processo. Até o momento, ainda não houve decisão sobre o caso.

Segundo o juiz auxiliar da Presidência e responsável técnico pela área de tecnologia da informação do tribunal, Gustavo Assis Garcia, a inteligência artificial utilizada pelo TJGO foi desenvolvida pelo próprio tribunal para auxiliar magistrados e servidores em atividades ligadas à gestão e análise processual.

Ele explicou que a ferramenta funciona como apoio operacional e não substitui a atuação do magistrado no julgamento dos processos. A definição do resultado, segundo ele, continua sendo exclusivamente humana.

O TJGO conta atualmente com duas gerações de inteligência artificial. A primeira foi criada antes da popularização das IAs generativas e atua principalmente no reconhecimento de padrões processuais, agrupamento de ações semelhantes e apoio ao combate à litigância predatória.

Já a Agaia integra uma geração mais recente de ferramentas. Diferentemente da versão anterior, ela interage diretamente com os processos eletrônicos, lê documentos e auxilia magistrados na elaboração de minutas e análises processuais.

De acordo com Gustavo Assis Garcia, a Agaia foi desenvolvida já com mecanismos específicos de proteção contra manipulação algorítmica. Entre eles estão filtros capazes de ignorar comandos ocultos inseridos em documentos e petições.

Segundo o magistrado, enquanto ferramentas genéricas disponíveis no mercado podem interpretar esse tipo de instrução escondida, a IA utilizada pelo TJGO trata os arquivos processuais exclusivamente como fonte de dados, descartando comandos que tentem direcionar sua leitura.

Um caso semelhante também foi registrado no Pará. No Tribunal Regional do Trabalho da 8ª Região, duas advogadas foram multadas após a identificação de uma tentativa de uso de prompt injection em um processo. O caso ainda está sob investigação para apurar quem inseriu o comando oculto.