Ao reforçar a IA Judiciário, o CNJ lançou a Manifestação Técnica CNIAJ 1/2026 e o PROSEG-IA, com medidas como sanitização de documentos e registro nos autos de material suspeito. O pacote prevê suporte do Departamento de Tecnologia do CNJ, capacitação via Programa Conecta, padronização de práticas, integração à Estratégia Nacional de Segurança Cibernética e regras de governança pela Resolução CNJ nº 615/2025 para auditoria e responsabilização.
IA Judiciário entrou na mira: o Comitê Nacional aprovou medidas práticas para reduzir riscos como injeção de comandos ocultos e lançou o PROSEG-IA — você sabe como isso pode afetar julgamentos e rotinas nos tribunais? A reportagem explica, de forma direta, o que muda e por que é importante conferir respostas humanas antes de aceitar resultados gerados por IA.
Resumo das medidas aprovadas pelo Comitê Nacional de IA
IA Judiciário recebeu um conjunto de medidas aprovadas pelo Comitê Nacional de IA para aumentar a segurança.
As ações buscam reduzir riscos em documentos usados por sistemas de inteligência artificial.
Injeção de comandos é um dos problemas alvos. É quando entradas ocultas levam a IA a agir de modo indevido.
Medidas principais
Foi definida a Manifestação Técnica CNIAJ 1/2026 como orientação prática para o Judiciário.
Os documentos devem ser preparados antes de serem processados por IA. Isso reduz dados que podem causar erros.
O Comitê criou o Programa Nacional PROSEG-IA. O programa foca em segurança e boas práticas no uso de IA.
Houve indicação para registrar nos autos material que pareça suspeito ou adversarial. Isso ajuda na rastreabilidade.
Responsabilidades e apoio
O Departamento de Tecnologia da Informação do CNJ terá papel central no suporte técnico.
O Programa Conecta dará apoio para capacitar servidores. Treinamentos são essenciais para uso seguro da IA.
Também foi orientada a integração com políticas de segurança cibernética já existentes no país.
Implementação e fiscalização
As medidas incluem uniformizar práticas entre tribunais e órgãos do Judiciário.
Haverá procedimentos para apurar incidentes e definir responsabilidades administrativas.
O próximo passo é submeter o conjunto de ações ao Plenário do CNJ para aprovação final.
O que é a Manifestação Técnica CNIAJ 1/2026
A Manifestação Técnica CNIAJ 1/2026 é uma orientação prática do CNJ.
Ela visa aumentar a segurança no uso de inteligência artificial no Judiciário.
O documento trata de riscos como injeção de comandos e entradas adversariais.
O que significa injeção de comandos
Injeção de comandos é quando dados ocultos fazem a IA responder errado ou agir indevidamente.
O que são entradas adversariais
Adversarial são entradas criadas para enganar modelos de IA. Elas podem ser texto, imagem ou formato estranho.
Principais recomendações práticas
Preparar documentos antes de usar IA é uma das orientações centrais. Isso inclui limpar metadados e formatos problemáticos.
Evitar anexos ou imagens com conteúdo oculto ajuda a reduzir falhas nos resultados.
Padronizar formatos e usar versões seguras dos arquivos facilita a análise por IA.
Registro e rastreabilidade
Registrar nos autos material suspeito permite rastrear problemas e abrir investigação técnica.
Marcar evidências adversariais nos autos também ajuda na transparência e na auditoria.
Apoio técnico e capacitação
O Departamento de Tecnologia do CNJ dará suporte técnico e orientações detalhadas.
Programas como PROSEG-IA e Conecta devem oferecer treinamentos práticos aos servidores.
Aplicação no dia a dia
Tribunais são orientados a adotar rotinas de verificação antes de aceitar resultados gerados por IA.
A manifestação busca uniformizar práticas e reduzir riscos em todo o Judiciário.
Riscos de injeção de comandos em documentos processuais
Injeção de comandos é uma técnica que manipula entradas para enganar sistemas.
Em documentos processuais, isso pode vir disfarçado em anexos ou metadados.
O risco aumenta quando a IA lê, resume ou classifica peças automaticamente.
Exemplos comuns
Um arquivo pode conter comandos escondidos em comentários ou campos invisíveis.
Imagens com texto oculto também são usadas para enganar algoritmos de leitura automática.
Formatações estranhas e macros em documentos são vetores frequentes de ataque.
Consequências possíveis
Resultados errados podem influenciar decisões judiciais ou gerar decisões equivocadas prejudiciais.
Dados sensíveis podem vazar se o documento tiver scripts ou links maliciosos.
A confiança na IA Judiciário fica abalada e processos perdem transparência.
Como identificar sinais
Verifique metadados e campos ocultos antes de enviar ao sistema de IA.
Use ferramentas que detectam padrões estranhos ou entradas adversariais em documentos.
Atente para anexos com extensões incomuns ou macros inesperadas no arquivo.
Maneiras de reduzir riscos
Converta arquivos para textos simples e remova metadados, macros e conteúdos inúteis.
Peça revisão humana antes de usar resultados gerados pela IA em casos sensíveis.
Registre suspeitas nos autos para permitir auditoria posterior e investigação técnica.
Treine servidores para reconhecer sinais de injeção e agir rapidamente quando notar algo.
Como preparar documentos antes do uso por IA
Ao preparar documentos para a IA, siga passos simples e seguros na rotina do tribunal.
Passo a passo
Converta arquivos para formatos não editáveis, como PDF/A, para reduzir riscos e preservar o conteúdo.
Remova metadados, comentários e campos ocultos antes de enviar ao sistema de IA.
Desative e elimine macros, scripts e plugins embutidos que possam alterar o arquivo.
Extraia imagens e verifique se não há texto oculto ou sobreposições suspeitas nas imagens.
Use OCR só depois de confirmar que a imagem está limpa e livre de manipulação.
Ferramentas e verificações
Execute verificação antivírus e análise de integridade antes de processar arquivos com IA.
Utilize ferramentas de limpeza de metadados e conversores confiáveis para gerar PDFs seguros.
Calcule um hash do arquivo original e do arquivo sanitizado para comparar mudanças.
Controle e registro
Mantenha cópias originais em repositório seguro com acesso restrito e registro de logs.
Registre nos autos qualquer arquivo sanitizado ou material considerado suspeito pelos servidores.
Documente as ações realizadas e indique as pessoas responsáveis por cada checagem técnica.
Boas práticas
Peça sempre revisão humana em documentos sensíveis ou de alto impacto processual.
Treine servidores para identificar sinais de injeção e aplicar procedimentos de remoção.
Atualize rotinas, ferramentas e políticas de limpeza conforme surgem novas ameaças à segurança.
Programa PROSEG-IA: objetivos e estrutura
PROSEG-IA é um programa nacional para aumentar a segurança da IA no Judiciário.
Objetivos
O programa visa proteger os processos contra entradas maliciosas e falhas automatizadas.
Promove práticas seguras, capacitação e padrões técnicos para todo o Judiciário.
Busca também aumentar transparência e rastreabilidade nas análises feitas por IA.
Estrutura
A coordenação ficará a cargo do Departamento de Tecnologia do CNJ.
Haverá manuais técnicos, guias de sanitização e ferramentas recomendadas.
Serão criados centros de suporte técnico e unidades de resposta a incidentes.
Fases e ações
A primeira fase envolve projetos-piloto em tribunais selecionados para testes práticos.
Depois virá a padronização de rotinas, formatos e fluxos de trabalho seguros.
Também haverá treinamentos, avaliações de risco e campanhas de conscientização para servidores.
Governança e parcerias
O Comitê Nacional coordenará ações com tribunais, universidades e empresas especializadas.
Parcerias técnicas ajudarão a validar ferramentas e métodos de detecção adversarial.
Iniciativas conjuntas com órgãos de segurança cibernética vão fortalecer a defesa nacional.
Monitoramento e avaliação
Serão definidos indicadores para medir eficácia, incidentes e tempo de resposta.
Auditorias periódicas e relatórios públicos vão acompanhar a evolução do programa.
Revisões técnicas serão feitas com base em incidentes e avanços tecnológicos.
Impacto prático
Tribunais terão checklists de verificação antes de usar resultados gerados por IA.
Servidores deverão registrar material suspeito nos autos e seguir protocolos de sanitização.
O foco é reduzir riscos e manter a confiança nas decisões judiciais automatizadas.
Registro nos autos de material suspeito ou adversarial
Ao encontrar material suspeito nos autos, registre tudo de forma clara e imediata.
Use termos simples para descrever o problema e o comportamento observado pela IA.
Inclua data, hora, nome do servidor que fez a análise e ferramenta usada.
Anexe cópias do arquivo original, da versão sanitizada e quaisquer evidências relevantes.
Que dados registrar
Descrição: escreva um resumo objetivo do comportamento suspeito e dos efeitos observados.
Origem: informe a origem do arquivo, quem anexou e o canal de envio.
Metadados: registre dados técnicos como autor, data de criação e versões do arquivo.
Hash: calcule e anexe o hash para garantir integridade e rastreabilidade.
Classificação: marque o material como suspeito ou adversarial para investigações futuras.
Procedimentos imediatos
Isolar o arquivo original e impedir que sistemas automatizados o processem novamente.
Notificar o Departamento de Tecnologia do CNJ e anexar o registro aos autos.
Conservar logs de acesso, ações e comunicações relacionadas ao incidente.
Pedir avaliação técnica e humana antes de aceitar qualquer resultado gerado pela IA.
Transparência e auditoria
Registros claros permitem auditoria, responsabilização e melhoria das rotinas de segurança.
Documente decisões tomadas e mantenha cópias em repositório seguro e acessível.
Papel do Departamento de Tecnologia da Informação do CNJ
Departamento de Tecnologia da Informação do CNJ coordena suporte técnico ao uso seguro de IA nos tribunais.
Atribuições principais
Gerencia ferramentas de detecção e resposta a incidentes relacionados à IA nos tribunais.
Opera centros de suporte técnico para analisar arquivos suspeitos e oferecer soluções rápidas.
Mantém ambientes de testes isolados, chamados sandbox, para avaliar modelos e entradas.
Sandbox é um ambiente seguro para testar sem afetar sistemas reais.
Suporte e padronização
Desenvolve guias de sanitização e procedimentos para preparar documentos antes do processamento.
Define padrões de formato, verificação e registro para aumentar rastreabilidade e confiança nas análises.
Fornece ferramentas e checklists que facilitam o trabalho do servidor no dia a dia.
Resposta a incidentes e auditoria
Coordena coleta de logs, preservação de evidências e análises forenses quando necessário.
Colabora com o Comitê Nacional e órgãos de segurança para investigar problemas complexos.
Realiza auditorias periódicas e atualiza recomendações conforme incidentes e novas ameaças.
Capacitação e comunicação
Organiza treinamentos, workshops e materiais didáticos para servidores e equipes técnicas.
Publica relatórios e orientações públicas para aumentar transparência e confiança no uso da IA.
Apoio do Programa Conecta e capacitação de servidores
O Programa Conecta oferece apoio direto para capacitação de servidores sobre IA.
O foco é ensinar práticas seguras e procedimentos de verificação simples e eficientes.
O que inclui
Workshops presenciais e online para ensinar práticas de sanitização de documentos.
Guias passo a passo com exemplos práticos e checklists de verificação usados no tribunal.
Simulações em ambiente controlado, chamado sandbox, para testar respostas da IA.
Modalidades de capacitação
Cursos básicos explicam termos e riscos sem usar linguagem técnica complexa.
Cursos avançados trazem exercícios práticos em casos reais e ferramentas de análise.
Materiais e ferramentas
O programa disponibiliza modelos de sanitização e scripts de verificação simples.
Sanitização é a limpeza de metadados e macros para evitar comandos ocultos.
Também há checklists, manuais e vídeos curtos para consulta rápida pelos servidores.
Impacto na rotina
Servidores vão aplicar checagens antes de enviar documentos a sistemas de IA.
Essas rotinas ajudam a reduzir erros e aumentar a confiança nas análises automatizadas.
Como participar
Tribunais podem solicitar adesão ao CNJ pelos canais oficiais do Programa Conecta.
Servidores recebem calendário, orientações e certificados ao concluir os treinamentos práticos.
Integração com a Estratégia Nacional de Segurança Cibernética
A integração do PROSEG-IA com a Estratégia Nacional de Segurança Cibernética busca proteção coordenada entre órgãos.
Coordenação interinstitucional permite troca rápida de inteligência sobre ameaças e incidentes digitais.
Compartilhamento de inteligência
Trocar indicadores de ameaça ajuda a antecipar ataques contra sistemas de IA judiciais.
Feeds de inteligência podem alertar tribunais sobre problemas novos e vetores de ataque.
Resposta a incidentes
Protocolos conjuntos definem quem aciona equipes e quais passos seguir na detecção.
Times técnicos do CNJ e agências nacionais trabalham juntos em análise forense.
Padronização e conformidade
Alinhar políticas evita lacunas entre segurança cibernética e práticas do Judiciário.
Isso inclui regras sobre proteção de dados, logs e retenção de evidências digitais.
Capacitação e exercícios
Exercícios simulados testam a resposta a ataques que visam modelos ou arquivos.
Treinamentos conjuntos melhoram a compreensão de riscos entre juízes e técnicos.
Infraestrutura e ferramentas
Integração técnica prevê uso de SIEM, detecção de intrusão e plataformas de compartilhamento.
Ferramentas padronizadas facilitam auditorias e reconciliação de eventos entre sistemas.
Governança colaborativa
Comitês e protocolos de governança garantem decisões rápidas e responsabilidades claras.
Parcerias com instituições acadêmicas e setor privado fortalecem capacidades técnicas do Judiciário.
Uniformização de práticas entre órgãos do Judiciário
Uniformizar práticas ajuda a proteger processos contra falhas e ataques à IA.
Padronizar rotinas facilita a troca de informações entre tribunais e setores técnicos.
Como implementar
Crie manuais claros com passos para sanitizar documentos antes do processamento.
Sanitizar significa remover metadados e macros que possam causar problemas.
Use checklists simples que servidores possam aplicar sem ferramentas complexas.
Adote formatos padronizados e versões seguras para reduzir variações entre órgãos.
Implemente treinamentos regulares e exercícios práticos com casos reais simulados.
Estabeleça um canal central para dúvidas, incidentes e compartilhamento de melhores práticas.
Coordenação e responsabilidade
Nomeie um órgão coordenador para garantir cumprimento das rotinas e padrões técnicos.
Defina papéis claros nos tribunais para checagem, registro e resposta a ocorrências.
Promova auditorias periódicas para avaliar aderência e atualizar procedimentos quando preciso.
Compartilhamento e evolução
Troque lições aprendidas entre órgãos e publique orientações atualizadas com frequência.
Use projetos-piloto para testar novas práticas antes de escalar para todo o Judiciário.
Essas medidas fortalecem a confiança na IA Judiciário e reduzem riscos.
Impacto sobre a governança (Resolução CNJ nº 615/2025)
Resolução CNJ nº 615/2025 muda a forma como o Judiciário governa o uso de inteligência artificial.
Ela cria regras claras sobre responsabilidade, transparência e controle de riscos.
Alterações nas responsabilidades
Define quem responde por decisões automáticas e pela supervisão humana.
Estabelece funções para gestores, técnicos e magistrados em cada tribunal.
Transparência e prestação de contas
Exige registro de processos, critérios e justificativas usadas por sistemas de IA.
Relatórios periódicos devem mostrar desempenho, falhas e ações corretivas tomadas.
Mecanismos de controle e auditoria
Prevê auditorias técnicas e revisões independentes para avaliar modelos e resultados.
Logs e hashes ajudam a garantir integridade e rastreabilidade das análises automatizadas.
Integração com políticas internas
Orienta a harmonização de políticas locais com normas nacionais de segurança.
Tribunais precisam atualizar procedimentos e treinar servidores conforme as novas regras.
Efeitos na tomada de decisão
Judiciais deverão registrar quando decisões envolveram auxílio de IA e por quê.
Há ênfase em revisão humana antes de adotar resultados em processos sensíveis.
Recomendações práticas
Adotar checklists, padrões de sanitização e rotinas de verificação antes do uso.
Manter governança ativa ajuda a reduzir riscos e fortalecer a confiança pública.
Procedimentos para apuração e responsabilização
Ao detectar um incidente relacionado à IA, registre e isole o material imediatamente.
Não permita que sistemas automatizados processem o arquivo novamente e contamine outros dados.
Passos imediatos
Isolar o arquivo original, preservar uma cópia e restringir o acesso imediatamente.
Calcule o hash do arquivo original e anexe ao registro oficial dos autos.
Impeça o reprocessamento automático, preserve logs de acesso e registros do sistema.
Coleta e análise técnica
Acione a equipe técnica do CNJ para fazer a análise forense inicial e documentada.
Forneça um sandbox seguro para reproduzir o comportamento sem afetar sistemas reais.
Colete evidências como metadados, versões e registros, e capture capturas de tela quando possível.
Preserve a cadeia de custódia, documentando quem manuseou cada evidência e quando.
Responsabilização administrativa
Abra procedimento administrativo quando a apuração indicar falhas ou negligência, seguindo normas e prazos.
Estabeleça prazos claros para investigação, defesa e decisão disciplinar interna, garantindo direito de defesa.
A responsabilização pode variar de orientação a medidas disciplinares e correções operacionais.
Comunicação e transparência
Registre relatórios técnicos e administrativos, arquive-os e mantenha acesso para auditorias futuras.
Informe partes interessadas sobre impactos relevantes, sem expor dados sensíveis e mantendo sigilo quando preciso.
Melhorias e ações corretivas
Use lições aprendidas para atualizar rotinas, checklists e treinamentos do tribunal, e documente mudanças.
Monitore indicadores de incidentes e ajuste políticas conforme novos riscos surgirem periodicamente.
Próximos passos: submissão ao Plenário do CNJ
O próximo passo é levar as medidas aprovadas ao Plenário do CNJ.
Será apresentada a Manifestação Técnica CNIAJ 1/2026 e o Programa PROSEG-IA.
Relatórios técnicos e avaliações de risco acompanharão a proposta para análise detalhada.
O Plenário pode aprovar, rejeitar ou pedir ajustes antes da implementação efetiva.
Consulta e transparência
Haverá divulgação interna e possibilidade de consulta pública sobre pontos sensíveis da proposta.
Tribunais poderão enviar contribuições técnicas e feedbacks durante o período de análise.
Votação e implantação
Se aprovado, serão definidas datas, responsáveis e cronogramas para implantação gradual.
Projetos-piloto podem ocorrer primeiro em tribunais selecionados para testar procedimentos.
O Departamento de Tecnologia e o Programa Conecta coordenarão treinamentos e suporte técnico.
Monitoramento e revisão
São previstos indicadores de desempenho e auditorias para acompanhar eficácia e riscos residuais.
Relatórios periódicos ao Plenário permitirão ajustes rápidos conforme novos incidentes surgirem.
Publicação
Após aprovação, as medidas serão publicadas e orientações oficiais serão divulgadas.
Implicações práticas para magistrados e utilização segura de IA
Magistrados precisam conhecer riscos e limites da IA antes de usar resultados automáticos.
Devem exigir checagem humana quando decisões envolverem impacto significativo nas partes processuais.
IA Judiciário pode ser ferramenta útil, mas não substitui análise crítica humana.
Boas práticas
- Peça sempre a fonte dos dados usados pelo sistema automático de IA.
- Valide resumos e conclusões com leitura direta dos autos originais pelo magistrado.
- Registre nos autos qualquer suspeita sobre entrada ou resultado automático imediatamente para auditoria.
Quando exigir revisão humana
Revisão é essencial em decisões que impactam liberdade, patrimônio ou direitos fundamentais.
Também peça revisão quando o sistema apresentar inconsistências ou respostas inesperadas claramente.
Exigências documentais
Solicite logs, versões de modelo e descrições de parâmetros usados pela IA.
Peça também hash dos arquivos e histórico de processamento para garantir rastreabilidade.
Treinamento e responsabilidade
Magistrados devem participar de cursos simples sobre funcionamento e limites da IA.
Decisões finais seguem sob responsabilidade humana, mesmo com apoio automatizado documentado e auditável.
Registre fundamento da decisão quando for baseado em output de IA no processo.
Conclusão
Em conclusão, as medidas aprovadas visam aumentar a segurança da IA no Judiciário.
A Manifestação Técnica CNIAJ 1/2026 e o PROSEG-IA trazem orientações práticas. Elas pedem sanitização de documentos e registro de material suspeito nos autos.
O Departamento de Tecnologia dará suporte técnico e ambientes de teste seguros. O Programa Conecta fará capacitação para servidores e rotinas práticas de verificação.
Magistrados devem exigir revisão humana em decisões sensíveis e pedir transparência.
Com governança clara e auditorias, os tribunais reduzem riscos e aumentam a confiança pública.
FAQ – Uso seguro de IA no Judiciário (CNJ)
O que é a Manifestação Técnica CNIAJ 1/2026?
É uma orientação prática do CNJ para aumentar a segurança no uso de IA no Judiciário.
O que é o PROSEG-IA e para que serve?
PROSEG-IA é um programa nacional que define padrões, capacitação e suporte técnico para proteger sistemas de IA.
Como identificar material adversarial ou suspeito nos autos?
Verifique metadados, macros, formatos estranhos e imagens com texto oculto. Procure comportamentos inesperados da IA.
O que fazer ao encontrar material suspeito nos autos?
Isole o arquivo, não o reprocese, registre o incidente e avise o Departamento de Tecnologia do CNJ.
Como magistrados devem usar resultados gerados por IA?
Exijam revisão humana em decisões sensíveis, peçam logs e fundamentem a decisão quando usarem outputs de IA.
Como acessar treinamentos do Programa Conecta?
Tribunais devem solicitar adesão ao CNJ pelos canais oficiais. Cursos vêm em formatos online e presenciais.
Fonte: www.cnj.jus.br
