O tribunal Diante da Inteligência Artificial

Quando a inteligência artificial deixa de ser ferramenta e vira questão constitucional

A inteligência artificial chegou aos tribunais com a promessa de fazer aquilo que a burocracia humana nunca conseguiu entregar em escala: triagem rápida, pesquisa jurisprudencial instantânea, padronização de minutas, organização de acervos gigantescos e redução de atrasos processuais. Mas, quando a máquina entra na sala de audiência, a pergunta muda de natureza. Já não se trata apenas de saber se o software é eficiente. Trata-se de saber se o Estado ainda consegue explicar, justificar, auditar e responder por aquilo que decide.

A frase parece acadêmica, mas sua consequência é concreta. Se uma decisão judicial foi influenciada por um sistema opaco, treinado com dados enviesados, contratado de empresa privada, alimentado por documentos sigilosos ou usado sem registro interno, a parte derrotada não perdeu apenas para o adversário. Pode ter perdido para uma engrenagem invisível. E, no processo democrático, engrenagens invisíveis são perigosas quando começam a vestir toga.

1. A promessa: matar a lentidão sem matar o processo

A sedução da IA no Judiciário nasce de uma dor real. Tribunais lidam com volumes colossais de processos, peças repetitivas, litígios de massa, precedentes pulverizados e filas decisórias que transformam o tempo em punição. Nesse cenário, qualquer tecnologia capaz de ordenar o caos parece uma ambulância no congestionamento.

O Handbook reconhece essa possibilidade. Sistemas de IA podem automatizar tarefas administrativas, acelerar pesquisa jurídica, apoiar gestão de acervo, identificar padrões e auxiliar na redação de atos. Em países com alta litigiosidade, a automação promete ser um antídoto contra a paralisia. A questão, porém, é que a Justiça não é uma fábrica de sentenças. Ela é uma instituição constitucional. Seu produto não é apenas “decisão”; é decisão legítima, motivada, controlável, impugnável e compreensível.

A diferença é decisiva. Um algoritmo que classifica petições pode ser útil. Um modelo que organiza documentos pode ser excelente. Um assistente que sugere jurisprudência pode economizar horas. Mas, quando a IA começa a influenciar a interpretação dos fatos, a seleção de precedentes, a credibilidade de provas ou a dosimetria de penas, ela deixa de ser “infraestrutura” e passa a tocar o nervo vivo da jurisdição.

A Justiça não pode ser reduzida a uma máquina de outputs. O processo é rito, contraditório, escuta, fundamentação, prova, dúvida, ponderação e responsabilidade. A decisão judicial não é só uma resposta. É uma explicação pública do poder.

2. O risco: eficiência sem legitimidade vira autoritarismo elegante

O grande erro contemporâneo é tratar eficiência como sinônimo de justiça. Eficiência é valor importante, mas não é valor soberano. Uma sentença injusta produzida em segundos continua sendo injusta. Uma decisão opaca proferida em massa continua sendo opaca. Uma triagem enviesada, ainda que veloz, continua sendo uma triagem enviesada.

O capítulo sobre transparência judicial no Handbook mostra que a transparência é valor fundacional do sistema jurídico porque permite responsabilização, segurança jurídica e confiança pública. Em matéria judicial, transparência não é decoração institucional. É o mecanismo que permite ao cidadão compreender como o poder público decidiu sobre sua liberdade, patrimônio, família, reputação ou existência civil.

A IA tensiona exatamente esse ponto. Modelos estatísticos, redes neurais, sistemas de aprendizado de máquina e grandes modelos de linguagem podem produzir resultados úteis sem oferecer explicação suficiente sobre o caminho percorrido. O problema jurídico nasce daí: se a parte não entende por que perdeu, não sabe como recorrer. Se o advogado não sabe qual premissa algorítmica influenciou o juiz, não consegue impugnar. Se o tribunal não registra o uso da ferramenta, não há auditoria. Se ninguém sabe quais dados treinaram o sistema, não há controle sobre viés.

O processo passa a ter uma sombra. E sombra, no Direito, costuma ser o primeiro nome da arbitrariedade.

3. A fundamentação como antídoto contra a máquina sem rosto

A obrigação de fundamentar decisões é uma das vigas mestras do Estado de Direito. Ela impede que o juiz decida por impulso, preconceito, conveniência, pressa ou autoridade pura. A motivação judicial protege o vencido, disciplina o vencedor e permite que a sociedade fiscalize o poder.

O Handbook dedica capítulo específico ao dever judicial de apresentar razões. A obra sustenta que a fundamentação serve à transparência, à justiça procedimental, à possibilidade de revisão e à proteção contra o arbítrio. A explicação da decisão permite que as partes saibam se seus argumentos foram realmente considerados e se há base para recurso.

Com IA, esse dever precisa ser elevado, não rebaixado. Se o juiz usa um sistema de apoio decisório, não basta dizer: “analisados os autos”. Será necessário, em casos sensíveis, explicitar se houve auxílio automatizado, qual foi sua função, se o resultado foi conferido, se os dados eram confiáveis, se havia risco de viés, se a conclusão da máquina foi acolhida ou rejeitada e por quê.

Essa é a nova fronteira da fundamentação: não basta fundamentar o resultado humano. É preciso fundamentar a mediação tecnológica quando ela participa do caminho decisório.

A IA não pode virar um “subsolo cognitivo” da sentença. O que influenciou a decisão precisa poder aparecer na superfície do processo. Do contrário, cria-se uma jurisdição de duas camadas: uma visível, com linguagem jurídica; outra invisível, com estatística, pesos, embeddings, prompts e bases de treinamento.

4. O Brasil como laboratório: potência, fragmentação e perigo

O capítulo brasileiro do Handbook, assinado por Luca Belli, José Luiz Nunes, Yasmin Curzi e Filipe Medon, descreve o Brasil como um sistema judicial complexo, multinível, altamente litigioso e marcado pela crescente centralidade de precedentes após o CPC de 2015. O texto destaca o papel do CNJ na promoção da transformação digital, da transparência, de dados abertos e do uso de IA nos tribunais.

O Brasil tem, portanto, dois ingredientes explosivos: demanda gigantesca e ambição tecnológica. Isso pode gerar liderança global. Também pode produzir uma colcha de retalhos automatizada, com tribunais usando ferramentas distintas, em estágios distintos, com maturidades distintas, níveis distintos de auditoria e graus distintos de transparência.

O próprio Handbook alerta que, no caso brasileiro, a ausência de um marco regulatório coeso pode gerar insegurança jurídica e prejudicar a confiança pública, especialmente quando sistemas de IA são usados para automatizar funções críticas do Estado, como a prestação de justiça. A obra aponta que, embora o Judiciário brasileiro tenha avançado em diretrizes éticas, tais esforços ainda podem ser inconsistentes e insuficientemente aplicados.

Essa constatação é central. Não basta o Brasil ser pioneiro. É preciso ser constitucionalmente adulto. O Judiciário não pode adotar IA como quem instala um plugin. Cada modelo precisa ter finalidade clara, governança, logs, registro, auditoria, plano de mitigação de risco, supervisão humana, documentação técnica e mecanismo de contestação.

A tecnologia judicial não pode ser uma caixa-preta com brasão público.

5. CNJ 615/2025: a tentativa brasileira de constitucionalizar a IA judicial

A Resolução CNJ nº 615/2025 é o principal movimento normativo brasileiro para disciplinar o desenvolvimento, a governança, a auditoria, o monitoramento e o uso responsável de IA no Poder Judiciário. O texto declara como objetivo promover inovação e eficiência de modo seguro, transparente, isonômico e ético, com observância dos direitos fundamentais. (Atos CNJ)

Essa resolução é importante porque muda o vocabulário institucional. Ela não fala apenas em produtividade. Fala em explicabilidade, contestabilidade, auditabilidade, confiabilidade, supervisão humana, proteção de dados, curadoria, mitigação de riscos e capacitação contínua. Em outras palavras: tenta transformar princípios constitucionais em arquitetura operacional.

O art. 3º da resolução consagra princípios como justiça, equidade, inclusão, não discriminação, transparência, eficiência, explicabilidade, contestabilidade, auditabilidade, segurança jurídica, devido processo legal, ampla defesa, contraditório, supervisão humana efetiva e capacitação sobre riscos da automação e vieses algorítmicos. (Atos CNJ)

Esse ponto merece leitura forte: contestabilidade é o coração jurídico da IA judicial. Se a parte não pode questionar o output, o sistema não é compatível com processo. A decisão judicial não pode nascer de uma recomendação que ninguém consegue abrir, testar, contraditar ou auditar. A IA pode auxiliar o juiz. Não pode substituir o contraditório.

A resolução também define o Sinapses como solução computacional destinada a armazenar, testar, treinar, distribuir e auditar modelos de IA na Plataforma Digital do Poder Judiciário. (Atos CNJ) Isso mostra que o CNJ pretende criar uma espécie de infraestrutura pública de governança algorítmica. A intenção é correta: evitar que cada tribunal vire uma ilha tecnológica, cada ilha com seu próprio oráculo.

Mas a norma só será real se sair do papel para o log. O verdadeiro teste não é o texto da resolução. É saber se, em um processo concreto, uma parte conseguirá descobrir se houve uso de IA, qual modelo foi usado, em qual versão, com quais dados, para qual finalidade, com qual supervisão e com qual possibilidade de impugnação.

Sem isso, a norma vira vitrine. E vitrine não segura Estado de Direito.

6. A Europa cravou o alerta: IA judicial é alto risco

O Regulamento Europeu de Inteligência Artificial, o AI Act, classifica determinados sistemas usados na administração da justiça como de alto risco. O texto afirma que esses sistemas podem impactar democracia, Estado de Direito, liberdades individuais, direito ao recurso efetivo e direito a julgamento justo. (EUR-Lex)

A norma europeia é especialmente clara ao qualificar como alto risco sistemas destinados a auxiliar autoridades judiciais na pesquisa e interpretação de fatos e do direito e na aplicação do direito a um conjunto concreto de fatos. Também afirma que a decisão final deve permanecer uma atividade conduzida por humanos. (EUR-Lex)

Essa formulação separa o brinquedo do bisturi. Uma IA que agenda audiências não é o mesmo que uma IA que sugere resultado jurídico. Uma IA que anonimiza decisões não é o mesmo que uma IA que avalia risco de reincidência, credibilidade probatória ou probabilidade de sucesso. Quanto mais perto do núcleo decisório, maior o risco. Quanto maior o risco, mais pesada deve ser a governança.

O AI Act exige sistema de gestão de riscos para IA de alto risco, documentado, mantido e atualizado ao longo de todo o ciclo de vida do sistema. Esse sistema deve identificar riscos conhecidos e razoavelmente previsíveis, avaliar riscos sob uso normal e mau uso previsível, adotar medidas mitigadoras e realizar testes com métricas previamente definidas. (EUR-Lex)

Aqui está uma lição direta para o Brasil: o Judiciário não pode tratar IA como aquisição de software comum. Ferramentas decisórias devem ser submetidas a uma cultura de risco equivalente à de infraestrutura crítica. Não porque a IA seja mágica, mas porque o erro automatizado escala. Um erro humano atinge um processo. Um erro algorítmico pode contaminar milhares.

7. Alfabetização em IA: juiz não precisa programar, mas precisa entender o perigo

Outro ponto decisivo do AI Act é a alfabetização em IA. A norma define AI literacy como habilidades, conhecimento e compreensão que permitem aos atores tomar decisões informadas sobre sistemas de IA, incluindo oportunidades, riscos e danos possíveis. Ela também impõe que provedores e utilizadores adotem medidas para assegurar nível suficiente de alfabetização de seu pessoal e de outras pessoas envolvidas na operação e uso dos sistemas. (EUR-Lex)

Isso não significa exigir que magistrados virem engenheiros de machine learning. Significa exigir que saibam quando desconfiar. Um juiz precisa compreender, no mínimo, que modelos podem alucinar, que bases de treinamento podem conter vieses, que outputs probabilísticos não são verdades, que correlação não é causalidade, que prompts influenciam respostas, que documentos sigilosos não podem ser jogados em qualquer ferramenta e que automação pode produzir conforto cognitivo indevido.

O risco mais sutil da IA judicial não é o robô substituir o juiz. É o juiz virar carimbador elegante de uma recomendação que parece técnica demais para ser contestada.

A autoridade humana não pode ser apenas nominal. Supervisão humana efetiva exige capacidade real de revisão crítica. Um magistrado que aceita a sugestão automatizada porque “o sistema indicou” não supervisiona. Apenas legitima a máquina com assinatura humana.

8. IA generativa e decisões judiciais: o perigo do texto perfeito e da razão falsa

Grandes modelos de linguagem são excelentes em produzir texto plausível. E é exatamente isso que os torna perigosos no Direito. O texto jurídico pode parecer correto, fluido, técnico, elegante e ainda assim estar errado. Pode citar precedentes inexistentes. Pode inventar fundamentos. Pode omitir distinções relevantes. Pode transformar uma dúvida processual em certeza retórica.

A Resolução CNJ 615/2025 enfrenta parte desse risco ao prever restrições ao uso de LLMs e IA generativa privada ou externa ao Judiciário em dados sigilosos ou protegidos por segredo de justiça, salvo hipóteses de anonimização ou mecanismos de proteção. Também exige registro interno quando houver emprego de IA generativa para auxílio à redação de ato judicial, para fins de estatística, monitoramento e auditoria. (Atos CNJ)

Mais ainda: a resolução estabelece que LLMs e sistemas generativos devem ter caráter auxiliar e complementar, vedando sua utilização como instrumento autônomo de tomada de decisões judiciais sem orientação, interpretação, verificação e revisão pelo magistrado, que permanece integralmente responsável pela decisão e pelas informações nela contidas. (Atos CNJ)

A redação é correta, mas abre um debate incômodo. Se o registro do uso de IA generativa ficar apenas interno, a parte talvez não saiba que a decisão foi auxiliada por máquina. E se a parte não sabe, como impugna eventual erro de uso, prompt mal formulado, omissão de documento ou contaminação por fonte indevida?

O registro interno é necessário. Mas, em casos de impacto relevante, talvez seja insuficiente. A parte precisa saber quando a máquina participou de modo material da construção decisória. Caso contrário, o contraditório fica atrás de uma porta trancada.

9. Prova, cadeia de custódia e algoritmo: a nova cena do crime processual

O debate sobre IA nos tribunais não se limita à decisão. Ele alcança a prova. Sistemas podem classificar imagens, transcrever áudios, reconstruir conversas, detectar padrões, avaliar risco, resumir documentos e produzir inferências. Em matéria penal, família, infância, violência doméstica, improbidade, direito médico ou litígios empresariais complexos, isso pode alterar radicalmente a formação da convicção judicial.

Aqui a questão é forense: todo output algorítmico relevante precisa ter cadeia de custódia intelectual e técnica. Quem gerou? Com qual sistema? Em qual versão? Com quais dados de entrada? Em qual horário? Com quais parâmetros? Houve edição posterior? Houve validação humana? O output foi reproduzível? A defesa ou a parte contrária pôde testar?

Sem essas respostas, o processo passa a aceitar uma prova sem corpo. Um fantasma técnico. E fantasmas não devem condenar, restringir convivência familiar, bloquear bens, orientar medidas protetivas, fundamentar busca e apreensão ou definir risco penal.

O Handbook inclui discussões sobre prova gerada por IA em cortes criminais europeias e sobre algoritmos em sentencing, além de críticas ao segredo comercial em justiça criminal. A estrutura da obra mostra que a fronteira mais perigosa não está apenas na sentença automatizada, mas também na prova automatizada, na inferência automatizada e na triagem automatizada.

O Direito Processual terá de desenvolver uma nova gramática: impugnação algorítmica, perícia de modelo, preservação de prompts, auditoria de dataset, rastreabilidade de versão, registro de interação e nulidade por opacidade técnica relevante.

10. O mito da neutralidade: algoritmo também herda preconceito

A IA costuma ser vendida como imparcial porque não tem emoções. Essa é uma meia verdade perigosa. Algoritmos não têm emoções, mas têm dados. E dados carregam história. Se a história é desigual, o modelo pode aprender desigualdade com traje estatístico.

O CNJ percebe isso ao definir viés discriminatório ilegal ou abusivo como resultado indevidamente discriminatório que cria, reproduz ou reforça preconceitos ou tendências derivados ou não dos dados ou do treinamento. A resolução exige medidas preventivas, validação contínua, auditoria ou monitoramento ao longo do ciclo de vida, relatórios periódicos e adoção de medidas corretivas, inclusive suspensão ou eliminação da solução quando houver viés ou incompatibilidade. (Atos CNJ)

Essa previsão é essencial. O Judiciário brasileiro julga desigualdades históricas: pobreza, raça, gênero, território, família, saúde, educação, violência, encarceramento, infância. Um modelo treinado em decisões passadas pode reproduzir distorções passadas com aparência de padrão. Pode transformar o vício histórico em recomendação futura.

O algoritmo pode congelar o passado dentro do futuro.

Por isso, a auditoria de IA judicial não deve perguntar apenas se o sistema acerta estatisticamente. Deve perguntar: acerta para quem? Erra contra quem? Quais grupos suportam os falsos positivos? Quais suportam os falsos negativos? Quais dados ficaram de fora? Quais realidades invisíveis não foram representadas?

No Judiciário, erro estatístico tem CPF, rosto, criança, liberdade, patrimônio e nome.

11. A tensão entre segurança jurídica e justiça individual

Uma das promessas da IA é reduzir inconsistências. Sistemas podem identificar decisões semelhantes, sugerir precedentes, apontar divergências e induzir padronização. Isso pode fortalecer segurança jurídica. Mas há um veneno escondido na dose.

O Handbook alerta para a tensão entre certeza jurídica e discricionariedade judicial. Ferramentas algorítmicas podem reduzir imprevisibilidade e apoiar decisões estruturadas, mas também podem reforçar resultados padronizados em detrimento da interpretação individualizada do caso concreto. O risco é a erosão sutil da discricionariedade judicial legítima, aquela necessária para impedir que justiça vire formalismo rígido.

Esse ponto é especialmente relevante no Brasil, onde precedentes vinculantes, litigância repetitiva e metas de produtividade já pressionam o juiz para decidir por blocos. A IA pode ser remédio ou acelerador do problema. Se bem usada, organiza o repertório jurídico. Se mal usada, transforma casos humanos em clusters.

O processo precisa de consistência, mas não pode abolir a singularidade. Duas ações podem parecer idênticas na ementa e serem completamente diferentes na prova. Dois litígios familiares podem compartilhar palavras-chave e carregar mundos emocionais opostos. Dois acusados podem ter o mesmo tipo penal e contextos radicalmente diversos.

A Justiça precisa de padrões para não enlouquecer. Mas precisa de exceções para não desumanizar.

12. O Brasil legislativo: PL 2338/2023 e a lacuna que ainda range

No plano legislativo federal, o PL 2338/2023 segue como peça central do debate brasileiro sobre regulação geral de inteligência artificial. Na Câmara dos Deputados, a proposição aparece como aguardando parecer do relator na Comissão Especial destinada a examinar o projeto, que trata do desenvolvimento, fomento e uso ético e responsável da IA com base na centralidade da pessoa humana. (Portal da Câmara dos Deputados)

Enquanto o marco geral não se consolida, o Judiciário avança por resolução própria, políticas internas, plataformas e iniciativas dos tribunais. Isso cria um paradoxo: o Poder que julga a legalidade da tecnologia pública também se torna desenvolvedor, comprador, regulador interno e usuário de tecnologia decisória.

A concentração de papéis exige controle ampliado. O Judiciário não pode se blindar sob o argumento da independência. Independência judicial não é licença para opacidade tecnológica. Pelo contrário: quanto mais independente o Poder, maior sua obrigação de explicar como usa instrumentos que influenciam decisões.

A autonomia do Judiciário é garantia contra interferência externa. Não é autorização para governança secreta.

13. O ponto jornalístico: a próxima crise não será “robô juiz”, será sentença invisivelmente auxiliada

O imaginário público gosta da imagem do robô juiz. É cinematográfica, fácil, assustadora. Mas talvez o verdadeiro problema venha de forma menos teatral. Não será uma máquina sentada na cadeira do magistrado. Será uma decisão aparentemente humana, com linguagem humana, assinatura humana, mas construída com auxílio invisível de sistemas que ninguém registrou, auditou ou revelou.

Esse cenário é mais provável e mais perigoso. Porque não provoca escândalo imediato. A aparência de normalidade preserva o ritual. O cabeçalho é o mesmo. A fonte é a mesma. O dispositivo é o mesmo. O que muda é o subsolo cognitivo.

A IA judicial tende a entrar pelas bordas: gabinete, triagem, minuta, resumo, pesquisa, comparação, agrupamento. Depois, avança para sugestão. Depois, para recomendação. Depois, para confiança habitual. Quando o sistema se torna confortável, o humano passa a desconfiar menos. A automação vira ambiente. E o ambiente, quando não é fiscalizado, vira destino.

Por isso, o debate público precisa abandonar a caricatura do robô e encarar a anatomia real do risco: dependência silenciosa, opacidade procedimental, terceirização cognitiva, padronização sem contraditório e fundamentação aparente.

14. O que uma IA judicial constitucionalmente legítima precisa ter

Uma IA compatível com o Estado de Direito não precisa ser perfeita. Nenhum juiz é perfeito. Nenhum sistema humano é perfeito. Mas precisa ser controlável.

O padrão mínimo deveria incluir:

1. Finalidade específica: o sistema deve dizer exatamente para que serve e para que não serve.

2. Classificação de risco: aplicações administrativas não podem ser tratadas como aplicações decisórias.

3. Registro obrigatório: toda interação material com IA em ato judicial relevante deve deixar trilha verificável.

4. Versão identificável: modelo, versão, atualização, base e fornecedor precisam ser rastreáveis.

5. Proteção de dados: documentos sigilosos e dados pessoais exigem ambiente seguro, anonimização quando cabível e vedação de treinamento indevido.

6. Explicabilidade proporcional: quanto maior o impacto da decisão, maior a obrigação de explicar o papel da IA.

7. Contestabilidade real: partes devem poder questionar output algorítmico relevante.

8. Auditoria independente: sistemas de alto risco não podem depender apenas de autodeclaração.

9. Supervisão humana efetiva: o juiz deve revisar criticamente, não apenas assinar.

10. Capacitação contínua: magistrados, servidores, advogados, Ministério Público, defensoria e peritos precisam compreender riscos.

11. Relatórios públicos: a sociedade deve saber quais modelos estão em uso e em quais classes de tarefas.

12. Nulidade por opacidade grave: quando a IA influenciar ato decisório sem rastreabilidade, contraditório ou auditoria, deve haver consequência processual.

Sem consequência, princípio vira ornamento.

15. A reflexão final: a toga não pode terceirizar a consciência

A IA pode ser uma das maiores oportunidades de modernização da Justiça. Pode reduzir atrasos, melhorar pesquisa, ampliar acesso, organizar massas processuais e libertar tempo humano para tarefas realmente humanas. Mas também pode criar uma forma nova de injustiça: mais rápida, mais limpa, mais escalável e mais difícil de enxergar.

O Handbook de Cambridge acerta ao deslocar o debate do encantamento tecnológico para a responsabilidade constitucional. A pergunta não é “o que a IA consegue fazer?”. A pergunta é “o que o Judiciário não pode deixar de ser quando usa IA?”.

Ele não pode deixar de ser transparente. Não pode deixar de fundamentar. Não pode deixar de ouvir. Não pode deixar de permitir contestação. Não pode deixar de proteger dados. Não pode deixar de preservar a independência do juiz. Não pode deixar de responder pelo que decide.

A máquina pode ajudar a encontrar caminhos. Mas o Direito não é navegação automática. É responsabilidade pública diante de vidas concretas.

No fim, a tecnologia judicial terá um teste simples: ela amplia o devido processo ou o encurta por dentro? Se amplia, é ferramenta democrática. Se encurta, é ameaça com interface bonita.

O futuro da Justiça não será decidido pela inteligência da máquina, mas pela coragem institucional de impedir que eficiência vire silêncio, que automação vire arbítrio e que a sentença deixe de ser uma razão pública para se transformar em output sagrado.

A toga pode entrar no data center. Mas não pode sair de lá sem prestar contas.