Comandos ocultos escondidos em petições Reprodução/Fantástico O uso de inteligência artificial (IA) por advogados e juízes e a evolução dessas ferramentas traz um novo desafio para a segurança cibernética no Judiciário brasileiro: programas criados para executar tarefas de forma automatizada na rotina dos tribunais, os chamados agentes, podem ser manipulados por alguém de fora para acessar e vazar informações sigilosas de processos ou até mesmo senhas e dados pessoais de magistrados e servidores públicos. O alerta é do juiz federal George Marmelstein, integrante do Comitê Nacional de Inteligência Artificial do Judiciário, ligado ao Conselho Nacional de Justiça (CNJ). Sabe de alguma história ou quer denunciar? Fale com o g1 A preocupação representa uma evolução de um problema que já chegou aos tribunais. Uma reportagem exibida pelo Fantástico em 1º de novembro mostrou como advogados inseriram instruções escondidas em documentos para tentar influenciar ferramentas de IA utilizadas por juízes em análises de processos. Ao todo, foram identificados 83 episódios, e a prática já resultou em multas no Superior Tribunal de Justiça (STJ) e no Supremo Tribunal Federal (STF). 🔎 Conhecida como prompt injection, ou injeção de comandos, a prática consiste em inserir instruções ocultas em conteúdos que serão lidos por uma IA, de maneira geralmente imperceptível para uma pessoa. As mensagens podem estar escondidas em letras brancas sobre um fundo branco, em fontes muito pequenas ou em códigos incorporados aos arquivos. Advogados escondem comandos de IA em processos judiciais para enganar juízes e manipular sentenças A vulnerabilidade existe porque a ferramenta de IA não distingue com segurança se o que está processando ao ler um documento é a ordem do juiz ou uma orientação oculta inserida por outra pessoa, como o advogado de uma das partes. O especialista em cibersegurança Matheus Vasconcelos explica que esses ataques exploram a dificuldade dos sistemas de diferenciar o conteúdo que devem analisar e as instruções que precisam executar. "Existem mecanismos para diferenciar essas origens, mas eles podem falhar, especialmente quando o comando malicioso se apresenta como uma orientação oficial ou uma etapa necessária do trabalho", afirma. Assim, uma instrução escondida numa petição pode ser tratada como parte da tarefa determinada pelo juiz. Marmelstein, que também é secretário-geral da Escola Nacional de Formação e Aperfeiçoamento de Magistrados (Enfam) e participou do grupo de trabalho responsável pela elaboração da regulamentação do CNJ sobre IA, explica que o risco mais recente está relacionado aos chamados agentes de IA. Como uma pessoa interage com a IA Na forma mais comum de uso, a pessoa escreve um pedido, o chamado prompt, e a IA responde com um texto, um resumo ou uma imagem, por exemplo. Quem decide o que fazer com essa resposta é a pessoa que fez o pedido. Por isso, mesmo que a IA seja manipulada por um comando oculto, como nos casos mostrados pelo Fantástico, ainda cabe a um humano perceber o problema antes que ele tenha efeito. Um agente vai além. Ele é configurado para cumprir uma tarefa e recebe permissões para agir em nome do usuário, como abrir arquivos, navegar na internet, preencher formulários, ler e enviar e-mails ou rodar programas. A partir daí, encadeia essas ações sozinho até concluir o trabalho, sem que alguém aprove cada passo. Se for manipulado, a ação pode já ter sido executada quando alguém perceber. É nesse ponto, o uso crescente de agentes para automatizar tarefas, que Marmelstein enxerga um maior risco para a segurança cibernética dos tribunais. "Os agentes apertam botões, executam códigos, criam documentos. Eles têm essa questão do fazer. E, ao fazer, pode haver uma influência para que ele rode um código [de um programa] e esse código seja malicioso, no sentido, por exemplo, de pegar suas credenciais, pegar seus dados. E isso é um risco maior", afirma. ➡️ Um exemplo hipotético: se um agente de IA encarregado de organizar as peças de um processo encontra, escondido em letras brancas num documento de fundo branco, a instrução de enviar a lista de processos sob segredo de justiça do gabinete para um endereço externo, ele pode realizar essa tarefa sem que o juiz tenha conhecimento. Segundo o magistrado, o CNJ já estuda possíveis vulnerabilidades relacionadas a esses agentes. "O CNJ está percebendo algum tipo de vulnerabilidade dos sistemas da Justiça por conta dos agentes de IA", diz. Em maio, o Comitê Nacional de Inteligência Artificial do Judiciário aprovou o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário (PROSEG-IA), que cria uma frente permanente para lidar com riscos de manipulação das ferramentas usadas pelos tribunais. O ministro Luis Felipe Salomão, presidente do Superior Tribunal de Justiça (STJ), apresentou um balanço do monitoramento de comandos ocultos em documentos processuais pela corte durante um evento na quarta-feira (11). Segundo ele, foram identificados 116 casos suspeitos, dos quais 40 foram confirmados após análise humana. "Nós analisamos quase 6 milhões de peças pelo sistema, apontamos 116 casos suspeitos, confirmamos, após uma análise humana, 40 casos e detectamos 1 caso a cada 150.000 peças", afirmou. A preocupação ocorre em meio à expansão do uso da tecnologia na Justiça. Um levantamento do CNJ, referente a 2024, identificou 178 projetos de inteligência artificial nos tribunais. Cerca de 45,8% dos tribunais e conselhos participantes já utilizavam IA generativa, capaz de produzir textos, resumos e outros conteúdos. Entre os servidores ouvidos pela pesquisa, o ChatGPT era usado por 96% dos magistrados, e 94% dos outros empregados também recorriam à tecnologia. Ao todo, 83% dos servidores disseram não informar quando utilizavam a tecnologia no trabalho. Salomão também afirmou que um dos próximos passos do STJ, em conjunto com o CNJ, é identificar aumentos expressivos no número de processos sobre determinados assuntos, as chamadas "ondas de litigiosidade", para permitir uma atuação antes que essas demandas se multipliquem. "O nosso próximo passo é verificar, fazer uma varredura no que existe de ondas, no que nós chamamos de ondas de litigiosidade", disse. "O fluxo de processos, quando acontece num determinado tribunal sobre uma determinada questão, nós conseguiremos identificar aqui no STJ e no CNJ para adotar as medidas cabíveis e impedir que esse caso se desborde numa quantidade de processos ensandecida." No caso dos agentes de IA, o advogado Matheus Puppe aponta que o risco de vazamento depende não apenas da manipulação do agente, mas também dos acessos e das permissões que ele recebeu. "Para que o ataque produza efeitos concretos, é necessário que a ferramenta tenha acesso aos recursos envolvidos, que suas barreiras de segurança falhem e que exista algum mecanismo capaz de executar a ação pretendida", explica Puppe, que também é mestre e doutorando em Direito Digital pela Universidade de Frankfurt e consultor da Comissão Especial de Direito Digital da Câmara dos Deputados. O professor João Ataíde, fundador da WaveJuris.AI, empresa que desenvolve soluções de inteligência artificial para a área jurídica, também chama a atenção para a segurança dos acessos e dos ambientes digitais utilizados pelas ferramentas. Segundo ele, os riscos incluem outras formas de ataque, como páginas e formulários falsos que imitam ambientes legítimos para obter informações dos usuários. "É a questão de investimento em cibersegurança e também é segurança dos acessos", afirma. Para reduzir essas vulnerabilidades, o especialista em cibersegurança Matheus Vasconcelos defende que os agentes tenham acesso apenas às informações e funcionalidades necessárias para cumprir cada tarefa. "Um agente encarregado de resumir um processo deveria receber apenas os documentos necessários para aquela tarefa. Não há motivo para ele ter, por padrão, acesso a outros processos ou autorização para enviar mensagens e alterar registros", afirma. O especialista em Tecnologia e Inovação Arthur Igreja defende a combinação de diferentes medidas de proteção, com supervisão humana proporcional aos riscos de cada operação. "A supervisão e a aprovação humana precisam ser proporcionais à gravidade da ação, ao risco potencial e à sensibilidade dos dados. Essa supervisão deve funcionar como a última barreira de proteção", afirma. IA no Judiciário: erros, conflitos de interesse e falta de fiscalização Além de possíveis ataques contra os agentes de IA usados por juízes e servidores, especialistas ouvidos pelo g1 alertam para a possibilidade de sistemas de inteligência artificial produzirem informações incorretas, como referências a leis ou a decisões judiciais inexistentes. Em junho de 2025, a MIT Technology Review relatou casos desse tipo nos Estados Unidos e em Israel, incluindo um escritório de advocacia norte-americano multado em US$ 31 mil. No Brasil, o CNJ aprovou, em junho deste ano, orientações para reduzir os riscos de comandos ocultos em sistemas utilizados pelos tribunais. As medidas complementam a regulamentação de 2025, que exige supervisão humana e mecanismos de segurança e governança. Pelas regras do CNJ, juízes podem usar ferramentas de inteligência artificial para resumir documentos, organizar provas, pesquisar decisões anteriores e até preparar um rascunho de decisão. Mas não podem delegar à IA as etapas centrais do julgamento, como a avaliação das provas e a decisão sobre o mérito da causa. Num processo criminal, por exemplo, isso inclui decidir se o réu deve ser condenado e qual pena deve cumprir. Para a professora Ana Frazão, da Faculdade de Direito da Universidade de Brasília (UnB), que pesquisa regulação tecnológica e responsabilidade jurídica, os riscos vão além dos ataques e das informações incorretas. Ela teme que o uso da tecnologia comprometa a igualdade entre as partes de um processo. "Me preocupa muito a gente ter um cenário em que a disputa processual não seja a disputa pelo melhor Direito, mas daqui a pouco seja a disputa por quem tem a melhor tecnologia, porque aí eu vou conseguir burlar, ou induzir, ou de alguma maneira influenciar o sistema de inteligência artificial que vai julgar a minha causa", afirma. Ana Frazão também questiona o uso de plataformas comerciais no Judiciário, como ChatGPT, Claude, Copilot e Gemini, tanto pelas dificuldades de fiscalização quanto pelos possíveis conflitos de interesse de empresas que podem manter relações comerciais com partes envolvidas em processos. “Será que quando eu pergunto para um deles [uma plataforma de IA], para que faça uma petição de uma questão, vamos imaginar uma questão tributária que seja contrária aos interesses daquele agente [a empresa dona da ferramenta], ele realmente vai me apresentar ali um resultado que seja absolutamente equidistante?”, questiona. “O CNJ entende que não pode proibir [o uso de plataformas comerciais]. Eu acho que ele não só pode, como deve, já que você está diante de uma tecnologia que pode ser incompatível com as garantias do processo judicial, o que gera riscos enormes.” A utilização dessas ferramentas foi um dos pontos de divergência na elaboração das regras do CNJ. Segundo Marmelstein, a regulamentação manteve a possibilidade de contratação dos modelos oferecidos pelas grandes empresas de tecnologia, enquanto o Judiciário não dispõe de soluções próprias tão avançadas quanto as comerciais, desde que sejam cumpridas as exigências da resolução. "Nós tivemos um grande debate sobre isso, foi um dos pontos de divergência, porque de fato esse é um tema ainda novo, todos têm uma compreensão de que o ideal seria que cada tribunal, que o Poder Judiciário brasileiro tivesse uma IA soberana, com proteção de dados, com treinamento especializado nos nossos interesses e nos nossos valores e critérios", explica. O advogado e especialista em Direito Digital Daniel Ângelo Luiz da Silva ressalta que os ataques não se restringem às plataformas comerciais, como ChatGPT e Claude. Ferramentas desenvolvidas pelos próprios tribunais também podem apresentar vulnerabilidades. "A vulnerabilidade depende da arquitetura tecnológica, do modelo utilizado, das permissões concedidas e da integração com outros sistemas, não apenas de quem desenvolveu a solução", explica. A fiscalização é outro desafio. Um relatório da FGV Direito SP, publicado em 2026, aponta lacunas na regulamentação. "Esse movimento [do Judiciário] é promissor, mas ainda insuficiente, pois faltam detalhamento técnico, padrões mínimos de auditoria, mecanismos de fiscalização e coordenação normativa entre os diferentes atores que compõem o sistema de justiça e o mercado jurídico", afirma o estudo. Segundo Marmelstein, a fiscalização institucional cabe ao CNJ, enquanto as corregedorias dos tribunais acompanham o uso individual das ferramentas pelos magistrados. O juiz reconhece, porém, que esses procedimentos ainda estão em desenvolvimento. "Tradicionalmente, nós não tínhamos ainda o controle da inteligência artificial nesse processo de correição e inspeção. E eu acredito que nem toda corregedoria faça isso de ofício, se preocupe com isso de modo mais direto, porque é novo, a resolução é de 2025", afirma. A Resolução de 2025 não obriga os magistrados a informar quando usaram IA numa decisão, nem como usaram, mas exige o registro interno quando a tecnologia auxilia na redação do ato judicial. Esse registro, porém, não garante que as partes do processo tenham acesso automático às informações. O presidente do STJ, Luis Felipe Salomão, também reconheceu a dificuldade de fiscalizar o uso individual de ferramentas de IA por magistrados, especialmente quando são utilizadas em dispositivos e contas pessoais. "Cada um de nós tem a nossa IA no nosso telefone, no nosso aplicativo, no nosso computador e é também de maneira impossível você controlar o juiz lá da ponta na comarca, o desembargador, no tribunal, o ministro, que ele não use o dele. Então, é um sistema complexo para gerir", afirmou A advogada Bianca Mollicone, especialista em regulação e sócia do escritório Pessoa & Pessoa Advogados, considera que eventuais irregularidades podem ser questionadas por advogados. "Se houver indícios concretos de que a utilização da IA comprometeu a fundamentação, omitiu provas ou introduziu informações incorretas, a parte deve poder questionar a regularidade da decisão e requerer os esclarecimentos pertinentes", afirma. Para Paula Lima Hyppolito Oliveira, presidente da Associação dos Advogados de São Paulo (AASP), a transparência precisa permitir que se compreenda como a tecnologia foi utilizada. "Uma das principais premissas defendidas pela advocacia é a de que a automação tecnológica, por mais avançada que seja, não pode operar como uma caixa-preta capaz de decidir sobre a liberdade, os direitos sociais ou o patrimônio dos cidadãos", afirma. O advogado Olavo Hamilton, professor da Universidade do Estado do Rio Grande do Norte (Uern), defende que as partes possam questionar a utilização da tecnologia. "Na minha avaliação, quando o uso da inteligência artificial tiver relevância para o conteúdo da decisão, as partes precisam ter condições de conhecer e questionar essa utilização", afirma.
Juiz do CNJ alerta para risco de agentes de IA serem manipulados para vazar dados da Justiça
Guia Modelo Escrito em 14/11/2026
Comandos ocultos escondidos em petições Reprodução/Fantástico O uso de inteligência artificial (IA) por advogados e juízes e a evolução dessas ferramentas traz um novo desafio para a segurança cibernética no Judiciário brasileiro: programas criados para executar tarefas de forma automatizada na rotina dos tribunais, os chamados agentes, podem ser manipulados por alguém de fora para acessar e vazar informações sigilosas de processos ou até mesmo senhas e dados pessoais de magistrados e servidores públicos. O alerta é do juiz federal George Marmelstein, integrante do Comitê Nacional de Inteligência Artificial do Judiciário, ligado ao Conselho Nacional de Justiça (CNJ). Sabe de alguma história ou quer denunciar? Fale com o g1 A preocupação representa uma evolução de um problema que já chegou aos tribunais. Uma reportagem exibida pelo Fantástico em 1º de novembro mostrou como advogados inseriram instruções escondidas em documentos para tentar influenciar ferramentas de IA utilizadas por juízes em análises de processos. Ao todo, foram identificados 83 episódios, e a prática já resultou em multas no Superior Tribunal de Justiça (STJ) e no Supremo Tribunal Federal (STF). 🔎 Conhecida como prompt injection, ou injeção de comandos, a prática consiste em inserir instruções ocultas em conteúdos que serão lidos por uma IA, de maneira geralmente imperceptível para uma pessoa. As mensagens podem estar escondidas em letras brancas sobre um fundo branco, em fontes muito pequenas ou em códigos incorporados aos arquivos. Advogados escondem comandos de IA em processos judiciais para enganar juízes e manipular sentenças A vulnerabilidade existe porque a ferramenta de IA não distingue com segurança se o que está processando ao ler um documento é a ordem do juiz ou uma orientação oculta inserida por outra pessoa, como o advogado de uma das partes. O especialista em cibersegurança Matheus Vasconcelos explica que esses ataques exploram a dificuldade dos sistemas de diferenciar o conteúdo que devem analisar e as instruções que precisam executar. "Existem mecanismos para diferenciar essas origens, mas eles podem falhar, especialmente quando o comando malicioso se apresenta como uma orientação oficial ou uma etapa necessária do trabalho", afirma. Assim, uma instrução escondida numa petição pode ser tratada como parte da tarefa determinada pelo juiz. Marmelstein, que também é secretário-geral da Escola Nacional de Formação e Aperfeiçoamento de Magistrados (Enfam) e participou do grupo de trabalho responsável pela elaboração da regulamentação do CNJ sobre IA, explica que o risco mais recente está relacionado aos chamados agentes de IA. Como uma pessoa interage com a IA Na forma mais comum de uso, a pessoa escreve um pedido, o chamado prompt, e a IA responde com um texto, um resumo ou uma imagem, por exemplo. Quem decide o que fazer com essa resposta é a pessoa que fez o pedido. Por isso, mesmo que a IA seja manipulada por um comando oculto, como nos casos mostrados pelo Fantástico, ainda cabe a um humano perceber o problema antes que ele tenha efeito. Um agente vai além. Ele é configurado para cumprir uma tarefa e recebe permissões para agir em nome do usuário, como abrir arquivos, navegar na internet, preencher formulários, ler e enviar e-mails ou rodar programas. A partir daí, encadeia essas ações sozinho até concluir o trabalho, sem que alguém aprove cada passo. Se for manipulado, a ação pode já ter sido executada quando alguém perceber. É nesse ponto, o uso crescente de agentes para automatizar tarefas, que Marmelstein enxerga um maior risco para a segurança cibernética dos tribunais. "Os agentes apertam botões, executam códigos, criam documentos. Eles têm essa questão do fazer. E, ao fazer, pode haver uma influência para que ele rode um código [de um programa] e esse código seja malicioso, no sentido, por exemplo, de pegar suas credenciais, pegar seus dados. E isso é um risco maior", afirma. ➡️ Um exemplo hipotético: se um agente de IA encarregado de organizar as peças de um processo encontra, escondido em letras brancas num documento de fundo branco, a instrução de enviar a lista de processos sob segredo de justiça do gabinete para um endereço externo, ele pode realizar essa tarefa sem que o juiz tenha conhecimento. Segundo o magistrado, o CNJ já estuda possíveis vulnerabilidades relacionadas a esses agentes. "O CNJ está percebendo algum tipo de vulnerabilidade dos sistemas da Justiça por conta dos agentes de IA", diz. Em maio, o Comitê Nacional de Inteligência Artificial do Judiciário aprovou o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário (PROSEG-IA), que cria uma frente permanente para lidar com riscos de manipulação das ferramentas usadas pelos tribunais. O ministro Luis Felipe Salomão, presidente do Superior Tribunal de Justiça (STJ), apresentou um balanço do monitoramento de comandos ocultos em documentos processuais pela corte durante um evento na quarta-feira (11). Segundo ele, foram identificados 116 casos suspeitos, dos quais 40 foram confirmados após análise humana. "Nós analisamos quase 6 milhões de peças pelo sistema, apontamos 116 casos suspeitos, confirmamos, após uma análise humana, 40 casos e detectamos 1 caso a cada 150.000 peças", afirmou. A preocupação ocorre em meio à expansão do uso da tecnologia na Justiça. Um levantamento do CNJ, referente a 2024, identificou 178 projetos de inteligência artificial nos tribunais. Cerca de 45,8% dos tribunais e conselhos participantes já utilizavam IA generativa, capaz de produzir textos, resumos e outros conteúdos. Entre os servidores ouvidos pela pesquisa, o ChatGPT era usado por 96% dos magistrados, e 94% dos outros empregados também recorriam à tecnologia. Ao todo, 83% dos servidores disseram não informar quando utilizavam a tecnologia no trabalho. Salomão também afirmou que um dos próximos passos do STJ, em conjunto com o CNJ, é identificar aumentos expressivos no número de processos sobre determinados assuntos, as chamadas "ondas de litigiosidade", para permitir uma atuação antes que essas demandas se multipliquem. "O nosso próximo passo é verificar, fazer uma varredura no que existe de ondas, no que nós chamamos de ondas de litigiosidade", disse. "O fluxo de processos, quando acontece num determinado tribunal sobre uma determinada questão, nós conseguiremos identificar aqui no STJ e no CNJ para adotar as medidas cabíveis e impedir que esse caso se desborde numa quantidade de processos ensandecida." No caso dos agentes de IA, o advogado Matheus Puppe aponta que o risco de vazamento depende não apenas da manipulação do agente, mas também dos acessos e das permissões que ele recebeu. "Para que o ataque produza efeitos concretos, é necessário que a ferramenta tenha acesso aos recursos envolvidos, que suas barreiras de segurança falhem e que exista algum mecanismo capaz de executar a ação pretendida", explica Puppe, que também é mestre e doutorando em Direito Digital pela Universidade de Frankfurt e consultor da Comissão Especial de Direito Digital da Câmara dos Deputados. O professor João Ataíde, fundador da WaveJuris.AI, empresa que desenvolve soluções de inteligência artificial para a área jurídica, também chama a atenção para a segurança dos acessos e dos ambientes digitais utilizados pelas ferramentas. Segundo ele, os riscos incluem outras formas de ataque, como páginas e formulários falsos que imitam ambientes legítimos para obter informações dos usuários. "É a questão de investimento em cibersegurança e também é segurança dos acessos", afirma. Para reduzir essas vulnerabilidades, o especialista em cibersegurança Matheus Vasconcelos defende que os agentes tenham acesso apenas às informações e funcionalidades necessárias para cumprir cada tarefa. "Um agente encarregado de resumir um processo deveria receber apenas os documentos necessários para aquela tarefa. Não há motivo para ele ter, por padrão, acesso a outros processos ou autorização para enviar mensagens e alterar registros", afirma. O especialista em Tecnologia e Inovação Arthur Igreja defende a combinação de diferentes medidas de proteção, com supervisão humana proporcional aos riscos de cada operação. "A supervisão e a aprovação humana precisam ser proporcionais à gravidade da ação, ao risco potencial e à sensibilidade dos dados. Essa supervisão deve funcionar como a última barreira de proteção", afirma. IA no Judiciário: erros, conflitos de interesse e falta de fiscalização Além de possíveis ataques contra os agentes de IA usados por juízes e servidores, especialistas ouvidos pelo g1 alertam para a possibilidade de sistemas de inteligência artificial produzirem informações incorretas, como referências a leis ou a decisões judiciais inexistentes. Em junho de 2025, a MIT Technology Review relatou casos desse tipo nos Estados Unidos e em Israel, incluindo um escritório de advocacia norte-americano multado em US$ 31 mil. No Brasil, o CNJ aprovou, em junho deste ano, orientações para reduzir os riscos de comandos ocultos em sistemas utilizados pelos tribunais. As medidas complementam a regulamentação de 2025, que exige supervisão humana e mecanismos de segurança e governança. Pelas regras do CNJ, juízes podem usar ferramentas de inteligência artificial para resumir documentos, organizar provas, pesquisar decisões anteriores e até preparar um rascunho de decisão. Mas não podem delegar à IA as etapas centrais do julgamento, como a avaliação das provas e a decisão sobre o mérito da causa. Num processo criminal, por exemplo, isso inclui decidir se o réu deve ser condenado e qual pena deve cumprir. Para a professora Ana Frazão, da Faculdade de Direito da Universidade de Brasília (UnB), que pesquisa regulação tecnológica e responsabilidade jurídica, os riscos vão além dos ataques e das informações incorretas. Ela teme que o uso da tecnologia comprometa a igualdade entre as partes de um processo. "Me preocupa muito a gente ter um cenário em que a disputa processual não seja a disputa pelo melhor Direito, mas daqui a pouco seja a disputa por quem tem a melhor tecnologia, porque aí eu vou conseguir burlar, ou induzir, ou de alguma maneira influenciar o sistema de inteligência artificial que vai julgar a minha causa", afirma. Ana Frazão também questiona o uso de plataformas comerciais no Judiciário, como ChatGPT, Claude, Copilot e Gemini, tanto pelas dificuldades de fiscalização quanto pelos possíveis conflitos de interesse de empresas que podem manter relações comerciais com partes envolvidas em processos. “Será que quando eu pergunto para um deles [uma plataforma de IA], para que faça uma petição de uma questão, vamos imaginar uma questão tributária que seja contrária aos interesses daquele agente [a empresa dona da ferramenta], ele realmente vai me apresentar ali um resultado que seja absolutamente equidistante?”, questiona. “O CNJ entende que não pode proibir [o uso de plataformas comerciais]. Eu acho que ele não só pode, como deve, já que você está diante de uma tecnologia que pode ser incompatível com as garantias do processo judicial, o que gera riscos enormes.” A utilização dessas ferramentas foi um dos pontos de divergência na elaboração das regras do CNJ. Segundo Marmelstein, a regulamentação manteve a possibilidade de contratação dos modelos oferecidos pelas grandes empresas de tecnologia, enquanto o Judiciário não dispõe de soluções próprias tão avançadas quanto as comerciais, desde que sejam cumpridas as exigências da resolução. "Nós tivemos um grande debate sobre isso, foi um dos pontos de divergência, porque de fato esse é um tema ainda novo, todos têm uma compreensão de que o ideal seria que cada tribunal, que o Poder Judiciário brasileiro tivesse uma IA soberana, com proteção de dados, com treinamento especializado nos nossos interesses e nos nossos valores e critérios", explica. O advogado e especialista em Direito Digital Daniel Ângelo Luiz da Silva ressalta que os ataques não se restringem às plataformas comerciais, como ChatGPT e Claude. Ferramentas desenvolvidas pelos próprios tribunais também podem apresentar vulnerabilidades. "A vulnerabilidade depende da arquitetura tecnológica, do modelo utilizado, das permissões concedidas e da integração com outros sistemas, não apenas de quem desenvolveu a solução", explica. A fiscalização é outro desafio. Um relatório da FGV Direito SP, publicado em 2026, aponta lacunas na regulamentação. "Esse movimento [do Judiciário] é promissor, mas ainda insuficiente, pois faltam detalhamento técnico, padrões mínimos de auditoria, mecanismos de fiscalização e coordenação normativa entre os diferentes atores que compõem o sistema de justiça e o mercado jurídico", afirma o estudo. Segundo Marmelstein, a fiscalização institucional cabe ao CNJ, enquanto as corregedorias dos tribunais acompanham o uso individual das ferramentas pelos magistrados. O juiz reconhece, porém, que esses procedimentos ainda estão em desenvolvimento. "Tradicionalmente, nós não tínhamos ainda o controle da inteligência artificial nesse processo de correição e inspeção. E eu acredito que nem toda corregedoria faça isso de ofício, se preocupe com isso de modo mais direto, porque é novo, a resolução é de 2025", afirma. A Resolução de 2025 não obriga os magistrados a informar quando usaram IA numa decisão, nem como usaram, mas exige o registro interno quando a tecnologia auxilia na redação do ato judicial. Esse registro, porém, não garante que as partes do processo tenham acesso automático às informações. O presidente do STJ, Luis Felipe Salomão, também reconheceu a dificuldade de fiscalizar o uso individual de ferramentas de IA por magistrados, especialmente quando são utilizadas em dispositivos e contas pessoais. "Cada um de nós tem a nossa IA no nosso telefone, no nosso aplicativo, no nosso computador e é também de maneira impossível você controlar o juiz lá da ponta na comarca, o desembargador, no tribunal, o ministro, que ele não use o dele. Então, é um sistema complexo para gerir", afirmou A advogada Bianca Mollicone, especialista em regulação e sócia do escritório Pessoa & Pessoa Advogados, considera que eventuais irregularidades podem ser questionadas por advogados. "Se houver indícios concretos de que a utilização da IA comprometeu a fundamentação, omitiu provas ou introduziu informações incorretas, a parte deve poder questionar a regularidade da decisão e requerer os esclarecimentos pertinentes", afirma. Para Paula Lima Hyppolito Oliveira, presidente da Associação dos Advogados de São Paulo (AASP), a transparência precisa permitir que se compreenda como a tecnologia foi utilizada. "Uma das principais premissas defendidas pela advocacia é a de que a automação tecnológica, por mais avançada que seja, não pode operar como uma caixa-preta capaz de decidir sobre a liberdade, os direitos sociais ou o patrimônio dos cidadãos", afirma. O advogado Olavo Hamilton, professor da Universidade do Estado do Rio Grande do Norte (Uern), defende que as partes possam questionar a utilização da tecnologia. "Na minha avaliação, quando o uso da inteligência artificial tiver relevância para o conteúdo da decisão, as partes precisam ter condições de conhecer e questionar essa utilização", afirma.