Manipulação ‘Invisível’ da Justiça com IA: Riscos e Medidas nos Tribunais Brasileiros

por webmedula | jun 9, 2026 | Negócios

Introdução ao Uso de Inteligência Artificial no Poder Judiciário Brasileiro

O uso da inteligência artificial (IA) no sistema judiciário brasileiro tem crescido de forma acelerada e representativo. Desde a informatização inicial dos processos judiciais nos anos 60 até a atual fase marcada pelo programa Justiça 4.0 do Conselho Nacional de Justiça (CNJ), a tecnologia evolui para modernizar a Justiça, buscando celeridade e eficiência. Segundo levantamento do CNJ em 2024, mais de 140 projetos com IA estão implementados ou em desenvolvimento em vários tribunais do país, indicando a consolidação dessa tecnologia na rotina judicial.

Motivações para a adoção da inteligência artificial

O Poder Judiciário brasileiro enfrenta desafios históricos como o congestionamento de processos e a morosidade nas decisões. A IA surge como ferramenta para automatizar tarefas repetitivas, como análise documental, elaboração de minutas e busca de precedentes. Isso permite otimizar o tempo dos magistrados e reduzir o acúmulo de demandas. A automação também favorece a padronização no tratamento dos processos, reduzindo erros humanos e possibilitando uma Justiça mais célere.

Dados da Pesquisa IA no Poder Judiciário 2024, divulgada pelo CNJ, mostram que tribunais que incorporaram soluções baseadas em IA conseguiram aprimorar a qualidade da prestação jurisdicional com maior agilidade e eficiência. Além disso, a digitalização facilita a transparência nos trâmites processuais, aproximando a Justiça da sociedade ao disponibilizar informações e agilizar respostas.

Como a IA tem sido implementada nos tribunais brasileiros

O CNJ coordena iniciativas de modernização do Judiciário, destacando-se o programa Justiça 4.0 que integra inovações tecnológicas, inclusive sistemas de IA. A Resolução CNJ nº 332/2020 regulamenta o uso ético, transparente e responsável dessas ferramentas. Entre os exemplos concretos estão sistemas de auxílio à decisão judicial, análise preditiva de resultados, chatbots para atendimento ao público e plataformas de gestão de processos.

Estes sistemas combinam algoritmos sofisticados com bases de dados extensas, permitindo suportar julgamentos mais fundamentados. Porém, a implementação da IA exige capacitação continuada dos magistrados para garantir controle e compreensão das decisões assistidas por tecnologia, preservando a imparcialidade e os direitos fundamentais.

O maior desafio reside em equilibrar inovação e segurança jurídica. Medidas de governança são essenciais para mitigar riscos como vieses algorítmicos, opacidade nas decisões automatizadas e o uso inadequado de dados pessoais. As discussões recentes valorizam a ética no emprego da IA, visando manter a confiança pública no sistema judiciário brasileiro.

Para aprofundar sobre o panorama e dados do uso da IA no Judiciário brasileiro, veja a Pesquisa IA no Poder Judiciário 2024 do CNJ.

Casos Recentes de Manipulação da IA na Justiça: Exemplos e Implicações

As Estratégias Ocultas Usadas para Manipular Sistemas de IA

Em diferentes tribunais brasileiros, como em São Paulo, Pará e Paraíba, surgiram casos alarmantes de manipulação da justiça por meio da inteligência artificial. Isso se deu principalmente pela inserção de textos invisíveis, como letras brancas sobre fundos brancos ou comandos ocultos em petições judiciais. Essas estratégias, chamadas de prompt injection, buscam induzir as ferramentas de IA a interpretar o conteúdo de forma favorecida aos manipulares.

Por exemplo, em Parauapebas (PA), duas advogadas foram penalizadas com multa de R$ 84 mil e suspensão cautelar de 30 dias após incluírem comandos secretos para manipular a IA. O sistema chamado Galileu, do TRT da 8ª Região, detectou essa tentativa e bloqueou o processamento da petição. Esses comandos ocultos tinham o objetivo de influenciar a elaboração de minutas de sentença a favor da parte que submeteu a petição.

Implicações Graves para o Sistema Judiciário Brasileiro

Esses episódios evidenciam uma vulnerabilidade grave. O juiz federal Rafael Leite, envolvido no programa Justiça 4.0, reconhece que a ampliação massiva do uso de IA no Judiciário aumenta a probabilidade de ataques dessa natureza. Segundo ele, mesmo casos isolados são preocupantes porque podem se tornar comuns com a expansão da tecnologia.

A manipulação das IAs pode provocar um aumento significativo nas contestações, impugnações e apelações, piorando o já sobrecarregado sistema judicial. Além disso, esse fenômeno gera dúvidas sobre a credibilidade das decisões, pois questões éticas e legais entram em choque com o uso inadequado das tecnologias. O mercado jurídico passa por um ponto crítico, onde o uso ético e transparente da IA é essencial para preservar a confiança pública.

Medidas e Resistência contra a Manipulação

Tribunais brasileiros, como o Superior Tribunal de Justiça (STJ), já têm sistemas internos preparados para detectar tentativas de manipulação, como o STJ Logos, que possui três níveis de segurança para identificar comandos suspeitos. Porém, a batalha continua, pois pesquisadores alertam que formas sofisticadas de enganar os sistemas ainda surgem.

Além disso, instituições como a OAB e o Conselho Nacional de Justiça desenvolvem protocolos para registrar formalmente as tentativas detectadas, garantindo rastreabilidade e possibilidade de responsabilização penal e administrativa. Ferramentas avançadas, como a plataforma Arandu do TJ/AM, foram premiadas em competições internacionais por suas camadas de proteção contra injeções de prompt.

O desafio do Judiciário é constante: equilibrar a eficiência trazida pela IA com a necessidade imperiosa de assegurar processos justos e imparciais, resguardando a dignidade da justiça sem abrir brechas para manipulações ocultas.

Para acompanhar mais detalhes sobre o tema, consulte a reportagem completa do Correio Braziliense.

Entendendo a Técnica de Prompt Injection e Seus Riscos

A técnica de prompt injection representa um dos mais sofisticados e perigosos vetores de ataque contra sistemas de inteligência artificial, especialmente aqueles baseados em grandes modelos de linguagem (LLMs). Essa modalidade explora vulnerabilidades inerentes ao modo como a IA interpreta e executa comandos textuais, induzindo-a a desobedecer regras pré-estabelecidas ou a manipular decisões automatizadas por meio da inserção de instruções maliciosas disfarçadas em documentos, e-mails ou prompts de consulta.

Por que a prompt injection é um risco crítico para a Justiça brasileira?

Nos tribunais, onde a integridade das decisões judiciais depende da correta interpretação de documentos processuais, a prompt injection permite inserir comandos ocultos que podem alterar o comportamento da IA usada para análise ou auxílio na tomada de decisões. Como o juiz ou operador não conseguem detectar facilmente essas instruções escondidas, há o risco real de manipulação ‘invisível’ dos resultados, comprometendo a imparcialidade e a transparência dos julgamentos.

Casos recentes no Brasil, como o ocorrido em Parauapebas, mostram que essa ameaça já saiu do campo da teoria e impacta diretamente processos judiciais. As técnicas usadas incluem a inserção disfarçada de comandos em arquivos judiciais que induzem a IA a ignorar informações relevantes, modificar análises ou privilegiar partes interessadas, configurando vícios processuais graves e ferindo princípios constitucionais do contraditório e da ampla defesa.

Como funciona a prompt injection e quais são seus principais vetores?

A prompt injection pode ocorrer de forma direta ou indireta. Na forma direta, o atacante envia uma instrução maliciosa explicitamente contida no input para a IA. Na indireta, muito mais sutil, o comando fica oculto dentro de documentos ou contextos que o sistema processa naturalmente, induzindo o sistema a agir conforme o desejo do invasor sem perceber a manipulação.

Além disso, técnicas de ofuscação são usadas para esconder comandos proibidos, como textos fragmentados que montam instruções perigosas (por exemplo, “del” + “ete” para simular o comando DELETE). Isso torna a detecção manual ou por filtros automatizados ainda mais difícil, agravando o risco.

Dados da Cloudflare e outras referências internacionais indicam que o prompt injection é uma vulnerabilidade conhecida desde 2022. Apesar dos esforços das empresas em criar filtros, monitoramento e mecanismos de mitigação, não há solução definitiva. A OpenAI, por exemplo, reconhece publicamente este desafio persistente, o que aponta para a necessidade de políticas internas rigorosas e supervisão constante nos usos judiciais.

Para mitigar esses riscos, especialistas recomendam técnicas avançadas como fine-tuning supervisionado com foco em segurança, aprendizado por reforço com feedback humano e registro rigoroso das interações da IA, para permitir auditorias e identificar comportamentos anômalos. No âmbito legal, o princípio da transparência e a LGPD reforçam o direito de parte não ser prejudicada por manipulações automatizadas não perceptíveis nem verificáveis ordinariamente.

Em resumo, o prompt injection representa um dilema técnico e ético profundo para o sistema judiciário brasileiro, exigindo conscientização, capacitação técnica dos operadores de justiça e a implantação urgente de medidas de governança que combinem tecnologia, processo e legislação para preservar a confiabilidade e a imparcialidade das decisões judiciais assistidas por IA.

Fonte: Matrix Go – Prompt Injection: Entenda os riscos da manipulação de modelos de IA

Ação do CNJ e dos Tribunais no Combate à Manipulação da IA

Reconhecimento dos riscos e primeiras medidas do CNJ

O Conselho Nacional de Justiça (CNJ) reconheceu a manipulação da justiça por meio da inteligência artificial como uma ameaça real e crescente no sistema judiciário brasileiro. Casos recentes de ataques conhecidos como prompt injection, que consistem em comandos ocultos inseridos em documentos processuais para influenciar decisões automatizadas, preocupam autoridades e magistrados. Em resposta, o CNJ aprovou protocolos específicos para barrar essas tentativas e reforçar a segurança do uso de IA.

Um exemplo é o protocolo que determina que todos os documentos que serão processados por sistemas de IA passem por um filtro humano, garantindo uma conferência cuidadosa antes da análise automatizada. Esta medida já tem sido adotada em tribunais como o Superior Tribunal de Justiça (STJ), Tribunal de Justiça de São Paulo (TJ-SP) e Tribunal Regional do Trabalho da 8ª Região (TRT-8), onde foram identificados casos suspeitos de manipulação.

Programas e diretrizes para prevenir ataques e assegurar a integridade

Para estruturar a prevenção e a resposta a essas ameaças, o CNJ lançou o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (PROSEG-IA). Esse programa cria uma frente permanente de defesa contra tentativas de manipulação, consolidando práticas de segurança nacional. Ele inclui auditorias periódicas, testes rigorosos de segurança nas ferramentas de IA e diretrizes para a contratação e implantação dessas soluções nos tribunais.

Além disso, o CNJ aprovou a manifestação técnica CNIAJ 1/2026, que orienta os tribunais sobre a preparação e verificação dos documentos para evitar que comandos escondidos afetem o funcionamento dos sistemas. O Comitê Nacional de Inteligência Artificial no Judiciário é responsável por coordenar essas ações e garantir uma governança que respeite os direitos fundamentais, conforme previsto na Resolução CNJ nº 615/2025.

Capacitação e fiscalização como pilares estratégicos

Outra frente de atuação importante é a capacitação dos magistrados e servidores para identificar e lidar com riscos gerados pela IA. Cursos e treinamentos sobre ética, vieses algorítmicos e análise crítica de resultados têm sido promovidos para garantir que o uso dessas tecnologias seja supervisado adequadamente pela equipe humana. Isso evita decisões baseadas exclusivamente em sistemas automatizados, que poderiam ser manipulados.

Paralelamente, o CNJ planeja lançar novos provimentos e campanhas de conscientização sobre a aplicação correta da inteligência artificial no meio jurídico, em parceria com a Ordem dos Advogados do Brasil (OAB). Essas ações buscam criar uma cultura de segurança e transparência, minimizando o impacto de ataques sofisticados e protegendo a confiabilidade da justiça brasileira.

Fontes adicionais e detalhes técnicos podem ser consultados na página oficial do CNJ sobre o tema: CNJ – Segurança da Inteligência Artificial no Judiciário.

Desafios Técnicos e Éticos na Implementação da IA na Justiça

Complexidade Técnica e Transparência dos Algoritmos

A implementação da inteligência artificial (IA) no sistema judiciário brasileiro enfrenta obstáculos técnicos significativos. Sistemas baseados em machine learning e análise preditiva dependem de grandes volumes de dados históricos, os quais podem carregar viéses algorítmicos implícitos que comprometem a imparcialidade das decisões. De acordo com um estudo da Fundação Getúlio Vargas (FGV), em 2025, a transparência dos algoritmos ainda é um desafio central, pois muitos modelos atuam como “caixas-pretas”, dificultando a explicação detalhada das recomendações emitidas por esses sistemas. Essa falta de explicabilidade torna difícil para magistrados e partes compreenderem as razões das decisões algorítmicas, ferindo o princípio jurídico da motivação dos atos judiciais.

Dilemas Éticos e o Papel do Controle Humano

Um dos principais dilemas éticos reside na atribuição de responsabilidade por decisões assistidas ou tomadas por ferramentas de IA. É fundamental que o judiciário mantenha um controle humano efetivo, evitando que as decisões automáticas substituam a análise crítica do magistrado. Conforme destaca o Conselho Nacional de Justiça (CNJ), a IA deve ser vista como um instrumento de apoio e não como substituto do juiz. Para garantir isso, a Resolução CNJ nº 615/2025 estabeleceu diretrizes que obrigam à supervisão humana e à transparência no uso das ferramentas.

Além disso, a implementação da IA no Judiciário deve respeitar os direitos fundamentais, o devido processo legal e assegurar o contraditório. O risco de automação excessiva pode levar à desumanização da justiça, gerando desconforto social e legítimas preocupações sobre a equidade das decisões.

Resistências Institucionais e Formação Técnica

A adoção da IA nos tribunais brasileiros não ocorre de forma homogênea. Resistências culturais entre magistrados e servidores desafiam a efetiva integração tecnológica. Muitas vezes, a falta de formação específica dificulta o entendimento e uso adequado das ferramentas digitais. Segundo avaliação apresentada em evento do Conselho da Justiça Federal (CJF) em 2025, investir em capacitação contínua é vital para que os operadores do Direito desenvolvam novas habilidades necessárias à utilização ética e eficaz da IA.

Para superar essas barreiras, é imprescindível que a administração pública promova treinamentos técnicos e éticos para magistrados e advogados, fomentando um ambiente de cooperação entre tecnologia e conhecimento jurídico.

Medidas para Mitigar Riscos e Garantir Justiça

O avanço da IA também exige a criação de protocolos rígidos de segurança, auditorias independentes e comitês de ética dedicados. A implementação dessas medidas contribui para a rastreabilidade das decisões algorítmicas e para a identificação rápida de falhas ou discriminações inadvertidas. De acordo com recomendações internacionais, a transparência e a explicabilidade são pilares para que a IA seja uma aliada da justiça, protegendo direitos e promovendo equidade.

Vale destacar que o Brasil pode se beneficiar da análise de modelos regulatórios internacionais, como as diretrizes da União Europeia para IA confiável, que enfatizam a ação humana, o respeito à diversidade e a responsabilização dos sistemas automatizados.

Para saber mais sobre os desafios técnicos e éticos na implementação da IA na Justiça, consulte a fonte oficial do Legale Educacional.

Impactos da Manipulação da IA para Advogados, Magistrados e Jurisdicionados

O uso cada vez maior da inteligência artificial (IA) no sistema judiciário brasileiro traz ganhos significativos em eficiência e acesso à justiça. Porém, a manipulação e uso indevido dessa tecnologia provocam impactos preocupantes para advogados, magistrados e jurisdicionados. Casos recentes mostram como petições com jurisprudência fabricada por IA têm causado sanções éticas e financeiras para advogados, comprometendo a confiança no sistema judiciário.

Consequências para os Advogados

Advogados devem assumir total responsabilidade pelo conteúdo das peças processuais, revisando as informações geradas por IA para evitar erros, alucinações e jurisprudência falsa. Um episódio no Tribunal Regional do Trabalho da 2ª Região ilustra esse problema: um advogado usei jurisprudência inexistente gerada por IA e a empresa associada foi multada em 5% do valor da causa, enquanto o profissional teve processo disciplinar aberto. Isso demonstra a vulnerabilidade dos advogados frente ao uso acrítico da tecnologia e a importância da supervisão humana rigorosa.

Além do risco ético e disciplinar, a manipulação da IA pode deteriorar a reputação profissional e levar a perdas financeiras. É elevado o número de profissionais que ainda resistem à adaptação da IA, o que pode resultar em desvantagem competitiva no mercado jurídico, onde, segundo consultorias, mais da metade dos advogados já utilizam alguma forma de IA para otimizar seu trabalho.

Desafios aos Magistrados e ao Sistema Judiciário

Para os magistrados, a manipulação invisível da IA representa um risco à imparcialidade e à segurança jurídica. A ausência de transparência nos algoritmos de decisão pode levar a decisões baseadas em dados incompletos ou enviesados, comprometendo a justiça. Magistrados e servidores precisam monitorar continuamente o uso dessas ferramentas para garantir conformidade com os direitos humanos e os processos fundamentais.

Um caso emblemático ocorreu em 2023, quando o Conselho Nacional de Justiça (CNJ) identificou o uso de jurisprudência inexistente gerada por IA para fundamentar uma decisão judicial. Isso evidenciou a necessidade de regulamentação mais rígida e protocolos que assegurem a integridade das informações usadas nos julgamentos.

Impactos para os Jurisdicionados

Os jurisdicionados podem ser diretamente prejudicados por manipulações da IA, pois decisões judiciais errôneas ou fraudulentas afetam seus direitos e a confiança no sistema de justiça. Por outro lado, a adoção ética da IA tem o potencial de democratizar o acesso à justiça, reduzir custos e acelerar processos, especialmente para serviços de baixa complexidade, que podem ser totalmente automatizados.

Estudos indicam que até 2030, cerca de 30% dos serviços jurídicos de baixa complexidade terão suporte de IA, possibilitando maior alcance e eficiência. Entretanto, o aumento de contestações devido a manipulações pode sobrecarregar ainda mais um judiciário já estressado, refletindo um paradoxo entre ganhos e riscos da tecnologia.

Em resumo, o ambiente jurídico brasileiro enfrenta um momento crucial para equilibrar o uso da IA como aliada da justiça, com cuidados éticos e regulamentares rigorosos. Reforça-se que a supervisão humana é insubstituível para evitar fraudes e manipulações, protegendo a credibilidade do sistema, os direitos das partes e a autonomia do Judiciário.

Para mais detalhes sobre riscos e práticas seguras no uso da IA no direito, consulte o material da Inspira: Alucinações de IA no Direito: riscos reais, impactos jurídicos e como evitá-los.

Medidas de Segurança e Protocolos para Prevenir Fraudes na Justiça Digital

Estruturação institucional e protocolos de segurança cibernética

O Poder Judiciário brasileiro vem adotando medidas robustas para fortalecer a segurança digital. O Conselho Nacional de Justiça (CNJ) instituiu o Protocolo de Prevenção a Incidentes Cibernéticos (PPICiber/PJ), conforme a Resolução CNJ nº 361/2020. Esse protocolo estabelece parâmetros claros para a preparação, identificação, contenção, erradicação, recuperação e aprendizado após incidentes de segurança. Além disso, determina que todos os órgãos do Judiciário mantenham mecanismos de resposta rápida, assegurando continuidade dos serviços e integridade dos processos digitais.

Integrado ao PPICiber, o Protocolo de Investigação para Ilícitos Cibernéticos define procedimentos para coleta e preservação de evidências digitais, além da comunicação eficaz com órgãos policiais, potencializando a investigação de fraudes e ataques digitais. Esse arcabouço institucional conta com um Comitê de Segurança Cibernética que reúne especialistas das mais diversas cortes do país e de órgãos estratégicos de segurança pública, garantindo uma abordagem coordenada e atualizada frente aos avanços das ameaças digitais.

Práticas tecnológicas e controles de segurança aplicados

As medidas técnicas aplicadas envolvem a gestão rigorosa de identidade e controle de acesso, incluindo autenticação multi-fator para limitações de acesso aos sistemas judiciais. Essa prática previne o acesso indevido e reduz riscos de manipulação “invisível” da justiça mediante credenciais roubadas ou fraudadas. Ademais, a implementação de backups regulares e a criação de trilhas auditáveis (logs) asseguram total rastreabilidade das ações digitais, facilitando a detecção e investigação de eventuais irregularidades ou tentativas de fraude.

Outro componente essencial é a atualização constante dos sistemas e softwares, assim como o fortalecimento da infraestrutura tecnológica contra ataques sofisticados, como o uso de malwares ou engenharia social. A educação digital para servidores e profissionais do Judiciário também é destacada, já que muitas fraudes iniciam-se por falhas humanas. A cultura de segurança, aliada à tecnologia, cria uma barreira dupla contra fraudes.

Educação, legislação e cooperações estratégicas

Complementarmente às medidas internas, o combate às fraudes digitais na justiça conta com esforços legislativos recentes, como a tipificação rigorosa de crimes cibernéticos e o aumento das penas para fraudes digitais previstos na Lei 15.397/2026. Essa legislação reforça a responsabilização dos criminosos e facilita a atuação das autoridades.

Além disso, há crescente cooperação entre setores públicos e privados, exemplificada pela parceria entre o Ministério da Justiça e a Federação Brasileira de Bancos (Febraban) para capacitação e mapeamento das principais fraudes digitais. Iniciativas de conscientização para o público em geral, divulgando orientações práticas para prevenção de golpess digitais, são fundamentais para reduzir o número de vítimas e dificultar a ação de criminosos contra o sistema judiciário e a população.

Para mais informações sobre esse tema, consulte o Guia Prático de Segurança Digital lançado pela Secretaria de Estado de Justiça e Segurança Pública de Minas Gerais em parceria com o Instituto Nacional de Combate ao Cibercrime: diariodocomercio.com.br.

Perspectivas Futuras: Supervisão Humana e Aperfeiçoamento dos Sistemas de IA

O avanço acelerado da inteligência artificial nos tribunais brasileiros exige um olhar atento sobre a supervisão humana. Apesar do potencial transformador da IA, sua capacidade de tomar decisões autônomas traz riscos significativos. A intervenção humana é fundamental para garantir que as decisões sejam justas, éticas e alinhadas ao ordenamento jurídico.

Por que a supervisão humana é essencial?

Modelos de IA, baseados em algoritmos probabilísticos, podem apresentar falhas e vieses. Sem supervisão, esses erros podem comprometer processos judiciais, acarretando injustiças e prejuízos sociais. Conforme pesquisas recentes, supervisionar a IA permite correções em tempo real e melhora a acurácia dos resultados. A presença humana atua como uma garantia contra decisões automatizadas equivocadas, especialmente em contexto jurídico, onde impactos causados por erros são profundos.

Como aperfeiçoar os sistemas de IA com controle humano?

O futuro da IA no Judiciário passa pela integração do know-how humano com a velocidade e escala da tecnologia. O modelo “human-in-the-loop” (humano no ciclo) consiste em estabelecer pontos claros de revisão humana no fluxo de decisões automatizadas. Isso implica treinamentos contínuos para responsáveis pela supervisão, protocolos rigorosos de auditoria e a utilização de ferramentas para monitoramento e validação dos sistemas.

Além disso, o aperfeiçoamento dos algoritmos deve incluir mecanismos que promovam transparência e rastreabilidade. Registrar todos os passos do processo decisório da IA, incluindo dados de entrada e justificativas, facilita a análise e contestação de eventuais erros. Esse registro é vital para garantir a legitimidade das decisões judiciais e o direito à ampla defesa dos envolvidos.

Outro desafio enfrentado é a escassez de profissionais capacitados para supervisionar sistemas complexos de IA. Investir em formação multidisciplinar — combinando conhecimento jurídico, tecnológico e ético — é essencial para construir uma governança eficaz e confiável. Governança esta que deve ser pautada por princípios de transparência, responsabilidade e respeito aos direitos fundamentais.

Conforme destaca a Organização Mundial da Saúde e outros órgãos internacionais, a supervisão humana impõe limites éticos e legais às soluções de IA, prevenindo violações de privacidade, discriminação e decisões automatizadas sem devido respaldo legal. Fonte: TodaIA