Inteligência artificial do TJGO barra tentativa de manipulação em processo

O Tribunal de Justiça de Goiás identificou uma tentativa recente de interferência tecnológica dentro de um processo judicial em tramitação na Corte. O caso foi detectado pelo sistema de inteligência artificial utilizado pelo próprio tribunal, que localizou comandos ocultos inseridos no material apresentado no processo.

A técnica utilizada é chamada de prompt injection e vem chamando atenção no meio jurídico por explorar vulnerabilidades em ferramentas de inteligência artificial. O método funciona por meio da inserção de instruções escondidas dentro de documentos analisados digitalmente.

Na prática, esses comandos podem ficar invisíveis para quem lê o arquivo normalmente, mas ainda assim serem interpretados por sistemas automatizados que fazem leitura eletrônica de textos.

Segundo o TJGO, o conteúdo foi identificado pelos mecanismos de segurança da plataforma e comunicado às áreas técnicas responsáveis. Em seguida, a documentação foi encaminhada ao relator do caso, que ainda avalia a situação.

O alerta levantou preocupação sobre o uso desse tipo de recurso para tentar influenciar sistemas automatizados empregados na organização, interpretação ou resumo de documentos judiciais.

Responsável técnico pela área de tecnologia da informação do tribunal, o juiz auxiliar da Presidência Gustavo Assis Garcia explicou que a ferramenta chamada Agaia foi criada pelo próprio TJGO para auxiliar o trabalho interno de magistrados e servidores.

De acordo com ele, o sistema não possui função decisória e atua apenas como suporte operacional dentro do fluxo processual.

O Tribunal de Justiça de Goiás mantém atualmente duas gerações de inteligência artificial. A primeira foi voltada à identificação de padrões processuais e ao agrupamento de ações semelhantes, além do apoio no combate ao ajuizamento repetitivo de processos.

A segunda geração é representada pela Agaia, criada já dentro do contexto das inteligências artificiais generativas. Ela foi desenvolvida para atuar diretamente na leitura dos processos eletrônicos e no apoio à elaboração de análises e minutas.

Ainda segundo Gustavo Assis Garcia, a plataforma já nasceu equipada com mecanismos específicos para impedir interferências desse tipo, incluindo filtros que ignoram comandos escondidos em petições e documentos.

Caso semelhante ocorreu no Pará. No Tribunal Regional do Trabalho da 8ª Região, duas advogadas foram multadas após a identificação do uso de prompt injection dentro de um processo. A investigação segue em andamento para apurar a origem da inserção do comando oculto.