A fraude IA consiste no uso de comandos ocultos em textos para enganar sistemas de peticionamento eletrônico. O STJ investiga casos com inquérito policial e procedimento administrativo, analisando metadados e logs. Advogados devem adotar controles, treinar equipes e documentar processos para reduzir riscos disciplinares e proteger a reputação.
fraude IA chamou a atenção do STJ depois que técnicos detectaram petições com comandos ocultos (prompt injection) para burlar o sistema eletrônico. O tribunal abriu inquérito e procedimento interno — o que muda na prática para advogados e para a segurança dos processos?
O que é prompt injection e como foi detectado
Prompt injection é um tipo de ataque que manipula o pedido dado a uma IA.
Ele tenta inserir comandos ocultos dentro de textos ou documentos usados em petições.
No caso do STJ, técnicos notaram trechos estranhos e repetitivos nas peças.
- Análise de padrões: buscar repetições e frases sem sentido no texto.
- Verificação de metadados: checar autor, datas e origem do arquivo.
- Exame de logs: ver como o sistema processou cada envio.
- Simulações: rodar prompts em ambiente controlado para ver respostas da IA.
Metadados são dados sobre o arquivo, como autor e horários de criação.
Os peritos ligaram trechos suspeitos às instruções que tentavam burlar o sistema.
O problema afeta a confiança nas decisões e facilita a fraude IA se não for contido.
Medidas do STJ: inquérito policial e procedimento administrativo
O STJ abriu um inquérito policial para apurar possíveis crimes relacionados à fraude IA.
O inquérito policial é conduzido pela polícia para reunir provas e ouvir testemunhas.
Peritos analisam arquivos, logs e metadados para identificar comandos ocultos ou manipulação.
- Coleta de evidências digitais, como petições e registros de acesso.
- Perícia técnica em ambiente controlado para reproduzir o comportamento suspeito.
- Oitiva de responsáveis e adoção de medidas cautelares, quando necessário.
Ao mesmo tempo, o tribunal abriu um procedimento administrativo para apurar faltas disciplinares.
Esse procedimento verifica se normas internas e o código de ética foram violados.
Medidas possíveis incluem suspensão de acesso, advertência e encaminhamento à OAB.
Haverá cooperação entre polícia, tribunal e provedores para troca de informações.
O sigilo das investigações será mantido e a presunção de inocência respeitada.
Impactos para advogados, travas do sistema e implicações éticas
fraude IA pode trazer riscos diretos para advogados e escritórios em atividade.
Pode haver processos disciplinares se houver uso indevido de sistemas automatizados internos.
Travas e checagens extras podem ser implantadas pelo tribunal para reduzir fraudes.
Essas medidas incluem filtros automáticos, limites de envio e verificação humana manual.
Filtros automáticos são algoritmos que detectam padrões estranhos e sinais suspeitos no texto.
Para o advogado, isso pode atrasar a tramitação e gerar custos extras.
Há ainda o risco de reputação, com clientes questionando a conduta profissional.
Do ponto de vista ético, usar prompts para enganar sistemas é problemático.
Prompt é a instrução dada à IA para gerar respostas automatizadas curtas.
A prática pode violar código de ética e as normas da OAB.
Advogados devem revisar ferramentas, treinar equipes e documentar processos de uso interno.
Transparência com clientes ajuda a reduzir mal-entendidos e riscos reputacionais futuros significativos.
Tribunais e provedores vão precisar melhorar defesas e políticas de segurança internas.
Isso inclui auditorias regulares e testes de penetração para avaliar pontos fracos.
Escritórios precisam investir em treinamento e em políticas claras de segurança internas.
O que fica da investigação
fraude IA exige atenção ampla de escritórios, tribunais e profissionais do direito.
Advogados devem rever processos e treinar equipes no uso seguro de IAs.
Tribunais já podem adotar filtros automáticos, checagens e verificações manuais rotineiras mais frequentes.
Perícias e auditorias ajudam a identificar comandos ocultos e pontos fracos do sistema.
A cooperação entre polícia, tribunais e provedores facilita a investigação e a resposta.
Transparência com clientes e documentos claros reduzem riscos e danos à reputação.
Adote boas práticas, registre procedimentos e atualize controles para proteger processos eletrônicos.
FAQ – Perguntas frequentes sobre fraude IA e investigação do STJ
O que é prompt injection?
Prompt injection é um ataque que insere comandos ocultos para enganar uma IA.
Como o STJ detectou essa prática?
Técnicos acharam trechos estranhos, padrões repetidos, e analisaram logs e metadados dos arquivos.
Quais riscos isso traz para advogados?
Risco de processos disciplinares, atrasos em casos, custos extras e danos à reputação.
O que é o inquérito policial e o procedimento administrativo?
O inquérito reúne provas criminais pela polícia. O procedimento apura faltas disciplinares no tribunal.
Como advogados podem se proteger?
Revisar processos, treinar equipes, documentar uso de IA e manter transparência com clientes.
Os tribunais vão mudar os sistemas por causa disso?
Sim. Devem implementar filtros automáticos, checagens humanas, auditorias e maior cooperação com provedores.
Fonte: Agenciabrasil.ebc.com.br
