O novo poder dos tribunais: IA judicial

A inteligência artificial entrou nos tribunais pela porta lateral da eficiência. Não chegou com toga, não pediu vista dos autos, não foi intimada, não assinou despacho. Veio como ferramenta: organizar filas, resumir peças, classificar processos, sugerir precedentes, acelerar fluxos, reduzir atrasos, limpar acervos, economizar tempo. Chegou humilde, quase servil. Mas, no Direito, toda ferramenta que influencia o caminho da decisão deixa de ser apenas ferramenta. Passa a tocar o poder. E onde há poder decisório, há Constituição.

A promessa é sedutora. Um Judiciário soterrado por milhões de processos vê na IA uma espécie de maquinário de desobstrução institucional. Sistemas que triem recursos, agrupem demandas repetitivas, indiquem temas, auxiliem pesquisas e preparem minutas parecem responder a uma crise real: a demora estrutural da Justiça. O problema é que a Justiça não é uma linha de montagem. A sentença não é produto industrial. O processo não é mero fluxo operacional. O jurisdicionado não é ticket. A eficiência, isolada, pode organizar a máquina; mas não legitima o exercício do poder.

É aqui que o debate precisa abandonar o encantamento tecnológico e entrar no território duro do Direito Constitucional, do Processo e da teoria da decisão. A pergunta essencial não é se a IA funciona. A pergunta é se seu uso preserva o devido processo legal, o contraditório, a ampla defesa, a publicidade, a motivação das decisões, a imparcialidade judicial, a independência do magistrado, a proteção de dados e a possibilidade real de controle pelas partes.

A IA judicial não é apenas inovação administrativa. É a introdução de uma nova camada cognitiva entre o processo e a decisão. Uma camada que pode pesquisar, resumir, filtrar, recomendar, classificar, ranquear, inferir e redigir. Se essa camada não for documentada, auditável, contestável e supervisionada, o processo deixa de ser plenamente visível. E processo invisível não é processo democrático. É poder sem janela.

1. Eficiência não é sinônimo de justiça

O primeiro erro conceitual é confundir celeridade com justiça. A Constituição garante duração razoável do processo, não julgamento apressado; garante acesso à Justiça, não acesso a uma máquina decisória opaca; garante eficiência administrativa, mas não autoriza sacrificar a fundamentação, o contraditório e a dignidade processual no altar da produtividade.

Uma decisão injusta produzida em segundos continua sendo injusta. Uma decisão sem fundamento compreensível continua sendo nula, ainda que estatisticamente elegante. Uma triagem enviesada continua sendo discriminatória, ainda que reduza o acervo. A legalidade constitucional não é substituída por performance. O Direito não pergunta apenas “quanto tempo levou?”. Pergunta também: “quem decidiu?”, “com base em quê?”, “quais provas foram consideradas?”, “quais argumentos foram enfrentados?”, “houve influência automatizada?”, “essa influência pode ser revisada?”, “a parte pôde contraditar?”.

O processo judicial não é só um caminho para chegar a um resultado. Ele é parte da própria justiça do resultado. Uma decisão pode até acertar por acaso; mas, se chega por caminho opaco, sem contraditório e sem fundamentação verificável, ela perde legitimidade constitucional. O Estado-Juiz não pode decidir como oráculo. A autoridade da sentença não nasce da força da caneta, mas da razão pública que a sustenta.

A IA, quando bem utilizada, pode fortalecer o Judiciário. Pode libertar magistrados e servidores de tarefas repetitivas, aprimorar pesquisas, organizar acervos, identificar inconsistências e ampliar capacidade institucional. Mas, quando mal governada, pode produzir o oposto: uma Justiça mais rápida, mais padronizada e menos humana; mais eficiente, porém menos controlável; mais produtiva, porém menos responsável.

A questão, portanto, não é ser contra ou a favor da IA. Essa dicotomia é pobre. O verdadeiro conflito está entre IA subordinada ao devido processo e IA convertida em poder oculto. Entre automação transparente e automação clandestina. Entre tecnologia como instrumento da jurisdição e tecnologia como subsolo não declarado da decisão.

2. A sentença não pode ter bastidor secreto

Toda decisão judicial precisa ser explicável. Isso não é capricho acadêmico. É exigência constitucional. O art. 93, IX, da Constituição impõe a fundamentação das decisões judiciais. O CPC, em seu art. 489, §1º, recusa decisões que apenas invoquem conceitos genéricos, deixem de enfrentar argumentos capazes de infirmar a conclusão, ignorem precedentes relevantes ou usem fundamentação aparente. A motivação judicial é o antídoto contra o arbítrio.

Quando a IA entra no processo decisório, esse dever de fundamentação não diminui. Ele aumenta. Se a decisão foi materialmente influenciada por sistema automatizado, a parte tem direito de saber. Não basta afirmar que “o juiz revisou”. A revisão humana não pode ser fórmula mágica. Supervisão humana efetiva exige domínio crítico sobre a ferramenta, compreensão de seus limites, checagem de dados, verificação de fontes, controle de alucinações, exame de vieses e responsabilidade expressa pelo resultado.

Uma sentença auxiliada por IA sem registro é uma sentença com bastidor secreto. E bastidor secreto é incompatível com o contraditório. A parte não consegue impugnar o que não conhece. Não consegue atacar o erro que não vê. Não consegue demonstrar viés, falha de entrada, erro de classificação, uso indevido de precedente, alucinação jurisprudencial ou contaminação por dado sigiloso se o próprio uso da ferramenta permanece oculto.

O processo civil, penal, constitucional ou administrativo não admite influência decisória anônima. Se um perito influencia a decisão, seu laudo vai aos autos. Se uma testemunha influencia a decisão, seu depoimento é registrado. Se um documento influencia a decisão, ele precisa ser juntado. Se uma prova técnica é usada, precisa ser submetida ao contraditório. Por que uma recomendação algorítmica relevante poderia atravessar a sentença como fantasma?

A resposta juridicamente honesta é: não pode.

Toda influência material de IA sobre ato decisório deve deixar trilha. Modelo utilizado. Finalidade. Versão. Momento de uso. Tipo de tarefa. Dados inseridos. Saída produzida. Grau de revisão humana. Critério de validação. Limitações conhecidas. Sem essa cadeia mínima, não há rastreabilidade. Sem rastreabilidade, não há contestabilidade. Sem contestabilidade, não há contraditório. Sem contraditório, não há devido processo. Sem devido processo, não há jurisdição constitucionalmente válida.

3. A próxima grande nulidade processual pode nascer da IA não documentada

A grande nulidade do futuro não será necessariamente a sentença proferida por um robô assumido. Esse cenário é cinematográfico, mas talvez menos provável. A nulidade mais perigosa será mais discreta: uma decisão formalmente humana, assinada por magistrado humano, com aparência de normalidade, mas materialmente influenciada por IA sem registro, sem transparência, sem possibilidade de impugnação e sem supervisão efetiva.

Essa decisão parecerá comum. Terá cabeçalho, relatório, fundamentação e dispositivo. Poderá citar artigos, precedentes e princípios. O problema estará no subterrâneo. A parte jamais saberá se uma ferramenta resumiu mal sua petição, omitiu prova relevante, sugeriu precedente inadequado, agrupou seu caso em categoria errada, replicou viés estatístico ou ofereceu minuta com fundamentação pronta. A decisão terá rosto humano, mas poderá carregar raciocínio maquínico não declarado.

Daí a tese central: toda decisão judicial materialmente influenciada por IA sem registro, rastreabilidade, supervisão humana efetiva e possibilidade de contestação viola o devido processo legal, o contraditório, a ampla defesa e o dever constitucional de fundamentação.

Essa tese não é exagero. É consequência lógica do sistema processual brasileiro. O contraditório contemporâneo não é apenas direito de falar. É direito de influenciar. E só se influencia aquilo que está visível. A ampla defesa não é ornamento. É possibilidade concreta de conhecer, reagir, testar, rebater e demonstrar erro. A fundamentação não é enfeite retórico. É mecanismo de controle da racionalidade decisória. Se a IA participou do caminho e esse caminho foi ocultado, a fundamentação está incompleta.

Não se exige que todo uso trivial de IA seja transformado em incidente processual. Uma ferramenta que corrige ortografia ou organiza agenda não tem o mesmo peso de um sistema que resume provas, sugere fundamentos ou classifica risco. O critério deve ser materialidade da influência. Quanto mais próximo do núcleo decisório, maior o dever de transparência. Quanto maior o impacto sobre direitos fundamentais, mais severa deve ser a rastreabilidade.

Em matéria penal, infância, família, violência doméstica, saúde, liberdade, patrimônio, tutela coletiva e direitos fundamentais, o rigor deve ser máximo. Um erro automatizado nesses campos não é simples falha operacional. Pode significar prisão indevida, restrição abusiva de convivência, bloqueio patrimonial injusto, apagamento de prova, reforço de vulnerabilidade ou produção de dano existencial.

A IA pode errar em escala. E o Direito precisa responder em profundidade.

4. AI Act: o recado europeu ao Estado-Juiz

O AI Act europeu oferece uma lição estrutural: inteligência artificial não deve ser regulada apenas por intenção, mas por risco. Quanto maior o potencial de afetar direitos, segurança, saúde, liberdade, acesso a serviços essenciais, democracia ou Justiça, maior deve ser o controle. Essa lógica é preciosa para o Judiciário.

Sistemas de IA ligados à administração da Justiça não podem ser tratados como softwares neutros. Uma ferramenta que apoia interpretação de fatos, pesquisa jurídica, aplicação do direito, análise de risco, seleção de precedentes, recomendação de decisão ou organização de acervo decisório pode alterar o destino de uma pessoa. Isso exige controles antes e depois do uso.

Controle ex ante significa avaliar antes da implantação: qual a finalidade do sistema? Quais dados serão usados? Há risco de discriminação? O sistema é explicável? Há documentação técnica? Há plano de mitigação? Há testes? Há conformidade com proteção de dados? Há supervisão humana real? Há compatibilidade com direitos fundamentais? Há possibilidade de contestação?

Controle ex post significa fiscalizar depois: o sistema está funcionando como prometido? Produz resultados enviesados? Alucina? Erra mais contra determinados grupos? Seu desempenho caiu após atualização? Houve incidentes? Os usuários confiam demais na ferramenta? Os logs estão preservados? Há auditoria periódica? Há canal para impugnação? Há possibilidade de suspensão?

O Judiciário não pode se contentar com a frase “a ferramenta é apenas auxiliar”. Quase todo poder perigoso começa se apresentando como auxiliar. O ponto não é o rótulo. É a função concreta. Se o sistema influencia decisão, ele precisa ser tratado como componente do processo decisório. Se apenas organiza expediente sem impacto sobre direitos, o regime pode ser mais leve. Mas se toca prova, fatos, fundamentos, precedentes ou resultado, entra no campo de alto risco constitucional.

O AI Act também ilumina outro ponto: alfabetização em IA. Não basta fornecer ferramentas a magistrados e servidores. É preciso formar usuários críticos. Um juiz não precisa ser programador, mas precisa entender risco de alucinação, viés, automação acrítica, dependência cognitiva, fragilidade de dados, limites de explicabilidade e problemas de privacidade. Sem essa alfabetização, a supervisão humana vira teatro.

A pior forma de automação não é aquela que substitui o humano. É aquela que mantém o humano como assinatura legitimadora de uma escolha que ele não compreendeu.

5. Responsible AI: transparência, equidade e accountability não são acessórios

A literatura de IA responsável é clara: sistemas de inteligência artificial devem ser concebidos e utilizados com transparência, justiça, privacidade, segurança, auditabilidade, accountability e alinhamento a valores humanos. No Judiciário, esses princípios deixam de ser boas práticas corporativas. Tornam-se requisitos constitucionais.

Transparência significa que o uso da IA precisa ser conhecido e compreensível. Não basta um aviso genérico dizendo que o tribunal “pode utilizar IA”. É preciso saber para quê, em qual etapa, com qual impacto e com quais controles. Transparência sem especificidade é névoa administrativa.

Equidade significa que o sistema não pode reproduzir discriminações históricas sob aparência matemática. Dados judiciais carregam passado. E o passado judicial pode carregar seletividade, desigualdade, racismo estrutural, vieses de gênero, assimetrias econômicas e distorções territoriais. Um modelo treinado sobre decisões anteriores pode aprender padrões de injustiça e devolvê-los como recomendação técnica. O algoritmo pode cristalizar a desigualdade com verniz estatístico.

Accountability significa responsabilidade identificável. Quem responde pelo erro? O tribunal? O magistrado? O fornecedor? O desenvolvedor? O órgão gestor? O comitê técnico? A resposta não pode se dissolver em cadeia burocrática. Poder sem responsável é poder imune. E poder imune é incompatível com democracia.

Privacidade e segurança são igualmente centrais. Processos judiciais contêm dados sensíveis, segredos comerciais, informações de crianças, vítimas, pacientes, famílias, acusados, empresas e pessoas vulneráveis. A inserção de dados processuais em ferramentas externas, privadas ou não governadas pode violar segredo de justiça, LGPD, sigilo profissional e dever institucional de custódia. A IA generativa amplia esse risco, porque transforma o usuário em alimentador de sistemas cujo funcionamento, retenção e treinamento nem sempre são claros.

Auditabilidade é a ponte entre princípio e realidade. Sem auditoria, transparência vira promessa. Sem logs, accountability vira retórica. Sem métricas, equidade vira discurso. Sem monitoramento, governança vira folder institucional.

No Judiciário, IA responsável significa uma coisa muito simples e muito exigente: nenhuma tecnologia pode ser tão poderosa que não possa ser explicada, nem tão eficiente que dispense controle, nem tão sofisticada que fique acima do contraditório.

6. A Resolução CNJ 615/2025: avanço normativo e teste de realidade

O Brasil deu passo relevante com a Resolução CNJ 615/2025. A norma reconhece expressamente que IA no Judiciário exige governança, auditoria, monitoramento, transparência, explicabilidade, contestabilidade, supervisão humana e proteção de direitos fundamentais. É uma inflexão importante. O CNJ percebeu que a IA judicial não pode ser regulada como simples ferramenta de produtividade.

Mas o desafio real começa depois da norma. O Brasil é especialista em produzir princípios luminosos e práticas sombrias. A pergunta decisiva é: como transformar a resolução em prova processual, rotina auditável e garantia concreta para o jurisdicionado?

A Resolução não pode virar um quadro bonito na parede digital dos tribunais. Precisa gerar consequências. Se um sistema deve ser cadastrado, que o cadastro exista e seja consultável. Se há classificação de risco, que ela seja pública e tecnicamente justificável. Se há relatórios, que sejam acessíveis, atualizados e inteligíveis. Se há auditoria, que ela não seja ritual interno. Se há contestabilidade, que a parte tenha meio processual real para arguir erro, viés, opacidade ou uso indevido.

A norma precisa atravessar o balcão e chegar aos autos.

O ponto mais sensível é o uso de IA generativa em apoio à redação de atos judiciais. Uma coisa é utilizar IA para melhorar linguagem, revisar gramática ou organizar estrutura. Outra é utilizar IA para resumir petições, sintetizar provas, buscar jurisprudência, sugerir fundamentos e preparar minuta decisória. Nesse segundo campo, o uso deixa de ser cosmético e se torna material. Deve ser registrado.

A parte não precisa saber cada tecla digitada no gabinete. Mas precisa saber quando uma ferramenta automatizada participou de modo relevante da formação do conteúdo decisório. Especialmente se a ferramenta interferiu em fatos, provas, argumentos, precedentes ou conclusão.

Essa transparência não enfraquece o juiz. Fortalece. O magistrado que declara, controla e revisa criticamente o uso da IA demonstra responsabilidade institucional. O perigo está no contrário: usar sem dizer, confiar sem testar, assinar sem dominar.

7. A decisão explicável como novo núcleo do devido processo

O devido processo legal do século XXI precisa incorporar a explicabilidade algorítmica. Isso não significa exigir abertura absoluta de código-fonte em todo caso. Significa exigir explicação suficiente para permitir controle jurídico.

A parte deve poder compreender a função da IA no procedimento. Deve poder saber se o sistema foi usado para triagem, pesquisa, resumo, classificação, recomendação ou redação. Deve poder questionar a adequação da ferramenta ao caso. Deve poder apontar risco de viés. Deve poder pedir esclarecimentos quando houver indício de erro. Deve poder requerer preservação de logs em situações relevantes. Deve poder demonstrar que uma decisão foi contaminada por dado incorreto, inferência indevida ou precedente inexistente.

A explicabilidade exigida pelo processo não é a mesma exigida por engenheiros. O Direito não precisa entender cada peso interno de uma rede neural para controlar seu uso. Mas precisa saber o bastante para verificar legalidade, contraditório, confiabilidade, proporcionalidade e impacto sobre direitos. A caixa-preta pode ser tecnicamente complexa, mas não pode ser juridicamente impenetrável.

A decisão judicial explicável exige três camadas.

Primeira: explicabilidade institucional. O tribunal deve informar quais sistemas usa, para quais finalidades, com quais classificações de risco, quais fornecedores ou bases, quais políticas de dados, quais auditorias e quais mecanismos de controle.

Segunda: explicabilidade processual. No processo concreto, quando o uso de IA tiver influência material, deve haver registro mínimo que permita às partes conhecerem o papel da ferramenta.

Terceira: explicabilidade decisória. A sentença deve demonstrar que o juiz enfrentou os argumentos, valorou provas e assumiu racionalmente a decisão, sem delegar o juízo a output automatizado.

Essas três camadas formam a nova muralha contra a jurisdição invisível.

8. O risco da fundamentação sintética fabricada

A IA generativa produz textos convincentes. Esse é seu talento e seu perigo. Ela pode criar uma fundamentação fluente, organizada e aparentemente jurídica, mas vazia de enfrentamento real. Pode transformar o art. 489 do CPC em peça de teatro: cita princípios, menciona precedentes, descreve argumentos genericamente e conclui com verniz técnico, sem efetivamente dialogar com o caso.

O Direito brasileiro já conhece a fundamentação aparente. A IA pode industrializá-la.

Uma decisão gerada ou auxiliada por IA pode parecer mais bem escrita que uma decisão humana apressada. Mas beleza textual não é densidade jurídica. A sentença precisa enfrentar o núcleo da controvérsia, não apenas produzir linguagem de autoridade. Precisa demonstrar por que acolhe uma prova e rejeita outra. Precisa explicar por que aplica ou distingue precedente. Precisa responder aos argumentos capazes de alterar o resultado. Precisa mostrar que o caso foi lido, não apenas processado.

O risco é que a IA transforme a decisão judicial em um texto sedoso por fora e oco por dentro. Uma porcelana argumentativa. Bonita, fria, quebrável.

Por isso, o controle da fundamentação deve se tornar mais rigoroso na era da IA. Sempre que houver sinais de texto genérico, repetitivo, desconectado de provas, incapaz de enfrentar argumentos ou apoiado em precedentes inexistentes, deve-se admitir impugnação específica. A parte deve poder alegar não apenas ausência de fundamentação, mas suspeita de fundamentação automatizada sem controle material.

9. Prova algorítmica e cadeia de custódia cognitiva

A IA não afeta apenas decisões. Afeta provas. Transcrições automáticas, reconhecimento facial, análise biométrica, classificação de documentos, detecção de padrões, reconstrução de diálogos, sumarização de áudios, análise preditiva e sistemas de risco podem entrar nos autos com aparência técnica. Mas a prova tecnológica precisa ser controlada com rigor ainda maior que a prova tradicional.

A cadeia de custódia não pode ser apenas física ou documental. Precisa ser também cognitiva e algorítmica. Se uma ferramenta produziu inferência relevante, é necessário saber qual ferramenta, qual versão, quais dados de entrada, quais parâmetros, qual margem de erro, quais limitações, qual validação e qual possibilidade de reprodução. Sem isso, não há prova técnica confiável. Há autoridade computacional sem perícia.

No processo penal, isso é decisivo. No processo de família e infância, também. Na saúde, no consumidor, na improbidade, em litígios empresariais, em medidas cautelares e em tutelas de urgência, igualmente. O output algorítmico não pode entrar no processo como se fosse fato. Output é resultado de método. E método precisa ser testável.

A parte tem direito de perguntar: quem produziu? Como produziu? Com quais dados? Quais erros são conhecidos? Há vieses? O sistema foi treinado com base compatível? Houve validação independente? A ferramenta é adequada ao idioma, ao contexto, à população, à classe processual? O resultado pode ser replicado? Há logs?

Sem resposta, a prova algorítmica deve ser vista com desconfiança. No processo, a dúvida técnica não pode ser resolvida em favor da máquina. Deve ser resolvida em favor do contraditório.

10. Independência judicial também significa independência tecnológica

A independência do juiz não é apenas independência contra governos, partes, mídia ou hierarquias indevidas. Na era digital, passa a incluir independência contra fornecedores, arquiteturas fechadas, sistemas proprietários, modelos opacos e dependência cognitiva de plataformas privadas.

Um Judiciário que utiliza sistemas que não compreende, não audita e não controla corre o risco de terceirizar parte de sua função constitucional. O fornecedor passa a definir parâmetros invisíveis. O modelo passa a filtrar o mundo. A interface passa a orientar escolhas. A infraestrutura passa a moldar o raciocínio.

Isso não significa demonizar tecnologia privada ou código fechado em absoluto. Significa impor condições públicas de uso. Quando a tecnologia entra no núcleo da jurisdição, ela deve se submeter à lógica do Estado de Direito. Não basta contrato. É preciso governança. Não basta licença. É preciso auditabilidade. Não basta eficiência. É preciso independência institucional.

A toga não pode ser hospedada em uma caixa-preta.

11. O standard jurídico proposto

A partir da Constituição, do CPC, da LGPD, da Resolução CNJ 615/2025, da lógica do AI Act e da literatura de IA responsável, é possível propor um standard mínimo para uso de IA em decisões judiciais:

Toda utilização de IA com influência material sobre ato decisório deve observar: finalidade específica; classificação de risco; registro de uso; rastreabilidade mínima; preservação de logs relevantes; proteção de dados; supervisão humana efetiva; explicabilidade proporcional ao impacto; possibilidade de contestação; auditoria periódica; capacitação dos usuários; responsabilização identificável; e vedação de delegação decisória autônoma.

Quando esse standard for descumprido em ato capaz de afetar direitos, abre-se espaço para nulidade. Não por tecnofobia. Por constitucionalismo. A nulidade não decorre da existência da IA, mas da sua ocultação, da impossibilidade de controle e da violação das garantias processuais.

Em outras palavras: IA pode auxiliar a Justiça. Não pode clandestinizar a Justiça.

12. Conclusão: a Justiça não pode trocar a razão pública pelo output

A Justiça sempre teve fantasmas: a demora, o formalismo, o excesso de processos, a desigualdade de acesso, a linguagem hermética, a burocracia que consome vidas. A IA promete enfrentar alguns desses fantasmas. E pode, de fato, ajudar. Mas agora surge outro espectro, mais silencioso: a decisão tecnicamente assistida por sistemas que a parte não conhece, não auditou e não consegue contraditar.

Esse é o novo poder invisível dos tribunais.

A IA promete iluminar o processo, mas, sem governança, pode instalar penumbra no centro da sentença. Pode tornar a decisão mais rápida e menos explicável. Mais padronizada e menos individual. Mais eficiente e menos controlável. Pode substituir o drama humano da fundamentação por uma coreografia estatística de plausibilidade.

O futuro da Justiça não será decidido pela inteligência da máquina. Será decidido pela coragem institucional de submeter a máquina ao Direito.

A Constituição não teme tecnologia. O que ela não admite é poder sem controle. O processo não rejeita inovação. O que ele não tolera é influência oculta. O contraditório não impede eficiência. O que ele exige é visibilidade. A fundamentação não proíbe ferramentas. O que ela exige é razão pública, verificável, humana e responsável.

A IA pode entrar no tribunal. Pode sentar-se ao lado do juiz, organizar autos, sugerir caminhos, apontar padrões e reduzir ruídos. Mas não pode ocupar o lugar invisível da consciência jurisdicional. Não pode decidir sem aparecer. Não pode influenciar sem registro. Não pode errar sem responsável. Não pode ser opaca onde a Constituição exige luz.

A toga pode usar tecnologia. Mas a sentença precisa continuar sendo um ato de responsabilidade pública.

No Estado de Direito, nenhuma decisão pode nascer de uma máquina sem rosto e morrer sob uma assinatura humana como se nada tivesse acontecido.