O Comitê Nacional de Inteligência Artificial no Judiciário aprovou duas iniciativas destinadas a ampliar a prevenção e a resposta a tentativas de manipulação dos sistemas de inteligência artificial usados pela Justiça. Coordenada pelo Conselho Nacional de Justiça, a Manifestação Técnica CNIAJ 1/2026 validou os riscos de injeção de comandos escondidos em documentos processuais (a prática de prompt injection) e instituiu um programa nacional de segurança com suporte à prevenção e à capacitação.
Segundo o presidente do Comitê Nacional, Rodrigo Badaró, a manifestação técnica apresenta cuidados para impedir que comandos escondidos em arquivos processuais interfiram no funcionamento de sistemas de IA ou levem à divulgação indevida de informações. O Comitê de IA, com o apoio do Departamento de Tecnologia da Informação do CNJ e do Programa Conecta, elaborou um estudo propondo medidas práticas para proteger a confiabilidade das ferramentas usadas pelo Judiciário.
Essas iniciativas ajudam a orientar a preparação dos documentos antes do uso pela IA e a reforçar os mecanismos de conferência das respostas por magistrados e servidores, para que o sistema não se afaste do conteúdo dos autos, nem substitua a análise humana. O grupo aprovou também o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (Proseg-IA), que cria uma frente permanente para lidar com riscos de manipulação no uso pelo Judiciário.
A proposta dará suporte a projetos voltados à segurança das ferramentas e à preparação dos órgãos judiciais para novas formas de ataque. A ideia é permitir que o CNJ atue com parâmetros comuns de segurança e dê mais agilidade às respostas, evitando ações isoladas ou incompatíveis entre órgãos do Judiciário. A manifestação técnica é a primeira medida nacional de orientação sobre o tema e deve ser submetida ao Plenário do CNJ.
