INTELIGÊNCIA ARTIFICIAL DIREITO E SOBERANIA

O presente artigo analisa, em perspectiva ampla, técnica e jurídico-filosófica, o impacto da inteligência artificial sobre o direito internacional e o direito nacional brasileiro. Parte-se da premissa de que a IA não constitui apenas instrumento computacional, mas nova infraestrutura de poder, cognição, classificação, vigilância, decisão e produção econômica. O texto examina a transição do software determinístico para os modelos probabilísticos, os grandes modelos de linguagem, os sistemas generativos, a automação decisória, a explicabilidade, a governança algorítmica, os riscos de viés, opacidade, discriminação, colonialismo digital, concentração econômica e erosão do devido processo legal. No plano internacional, aborda-se a emergência de regimes normativos plurais, como o AI Act europeu, a Convenção-Quadro do Conselho da Europa sobre IA, os princípios da OCDE, a Recomendação da UNESCO e as tensões entre soberania digital, direitos humanos e competição geopolítica. No plano brasileiro, examinam-se a Constituição Federal, a proteção de dados pessoais como direito fundamental, a LGPD, o Marco Civil da Internet, a Lei do Governo Digital, a regulação do CNJ e o PL 2338/2023. Sustenta-se que o Direito deve abandonar uma postura meramente reativa e construir uma dogmática técnico-jurídica capaz de auditar, limitar e responsabilizar sistemas de IA. Conclui-se que a inteligência artificial juridicamente legítima deve ser humana em finalidade, auditável em arquitetura, proporcional em risco, explicável em efeitos, responsável em cadeia produtiva e subordinada ao núcleo irrenunciável da dignidade humana.

---

1. O DIREITO DIANTE DA MÁQUINA QUE APRENDE

A inteligência artificial não chegou ao Direito como chegam as ferramentas comuns. Não entrou pela porta dos fundos da técnica, silenciosa, neutra, auxiliar. Entrou como um espelho novo, capaz de ampliar virtudes e deformar vícios. O que antes era pesquisa jurídica, classificação documental, estatística processual, triagem administrativa ou automação contratual, passou a ser também inferência probabilística, geração de linguagem, análise preditiva, simulação decisória, avaliação de risco, reconhecimento de padrões e produção de sentido.

A questão central, portanto, não é saber se a inteligência artificial será usada no Direito. Ela já está sendo usada, com ou sem lei geral, com ou sem compreensão pública, com ou sem preparo institucional. A verdadeira questão é outra: quem controla a arquitetura da decisão? Quem responde pelo erro algorítmico? Quem audita a máquina? Quem explica o modelo? Quem protege o cidadão quando o poder deixa de aparecer como caneta, carimbo ou sentença, e passa a operar como score, cluster, ranking, recomendação ou probabilidade?

“A técnica não substitui a justiça. Ela apenas revela, com velocidade brutal, se a justiça ainda tem alma.” Thomaz Franzese

O Direito moderno foi construído para domesticar o arbítrio visível. A inteligência artificial inaugura o desafio do arbítrio invisível. Antes, o abuso precisava de rosto, assinatura, autoridade ou ato formal. Agora, pode estar embutido em base de dados enviesada, modelo opaco, função de perda mal calibrada, métrica de eficiência incompatível com direitos fundamentais, prompt institucional mal desenhado, integração insegura, cadeia de fornecedores pulverizada ou sistema de decisão que ninguém, ao final, assume como próprio.

Daí a necessidade de uma nova gramática jurídica. Não basta perguntar se a IA é lícita. É preciso perguntar se ela é constitucionalmente compatível, tecnicamente auditável, socialmente proporcional, democraticamente controlável e humanamente justificável. Em matéria de inteligência artificial, legalidade sem explicabilidade pode se converter em liturgia vazia. Eficiência sem governança pode ser apenas uma forma elegante de acelerar injustiças. Automação sem responsabilidade pode transformar o cidadão em réu de uma equação que ele não conhece.

Como escreveu Kant, no pequeno clarão iluminista de seu “sapere aude”, a maioridade exige coragem de usar o próprio entendimento. No século XXI, essa máxima ganha nova densidade: usar o próprio entendimento inclui não delegar cegamente a máquinas aquilo que exige responsabilidade moral, prudência jurídica e justificação pública. A razão humana não pode abdicar de si mesma em nome da velocidade. A velocidade é virtude da máquina; a justiça continua sendo dever do homem.

Este artigo sustenta que a inteligência artificial deve ser compreendida como uma infraestrutura jurídica de risco. Não porque seja inimiga da sociedade, mas porque altera os meios pelos quais a sociedade classifica pessoas, distribui oportunidades, administra conflitos, decide prioridades, seleciona provas, produz conhecimento e organiza poder. A IA pode ampliar acesso à justiça, reduzir custos, melhorar diagnósticos, acelerar pesquisas, combater fraudes, identificar inconsistências e democratizar informação. Mas também pode gerar discriminação automatizada, vigilância em massa, erosão de privacidade, manipulação cognitiva, concentração de mercado, colonialismo de dados, assimetria processual e novas formas de exclusão.

A técnica, como ensinou Heidegger, não é apenas instrumento. A essência da técnica não é técnica. Ela revela uma forma de colocar o mundo à disposição. No caso da IA, o mundo é convertido em dado; o dado, em padrão; o padrão, em inferência; a inferência, em decisão; a decisão, em consequência jurídica, econômica ou existencial. O Direito precisa entrar exatamente nesse ponto: entre a inferência e a consequência. É ali que a dignidade humana deve erguer sua última muralha.

“O algoritmo pode calcular o risco, mas não pode possuir a dor. Pode medir recorrência, mas não pode compreender destino. Pode sugerir caminho, mas não deve ocupar o trono da responsabilidade.” Thomaz Franzese

2. DA LÓGICA DO SOFTWARE À LÓGICA DOS MODELOS: A MUTAÇÃO TÉCNICA DO PROBLEMA JURÍDICO

O software clássico era, em grande medida, uma sequência de instruções. Escrevia-se uma regra, executava-se uma operação, recebia-se um resultado. O erro podia ser localizado no código, no requisito, na entrada ou na execução. Havia complexidade, mas também uma certa linearidade: o sistema fazia aquilo que alguém havia programado para fazer.

A inteligência artificial contemporânea, sobretudo a baseada em aprendizado de máquina, redes neurais profundas e modelos fundacionais, desloca esse paradigma. O sistema deixa de operar apenas por instrução expressa e passa a operar por treinamento estatístico. Em vez de se programar cada resposta, programa-se uma arquitetura capaz de ajustar parâmetros a partir de grandes volumes de dados. O resultado não é simplesmente “obedecido”, mas inferido. Não nasce de uma regra textual única, mas de correlações distribuídas em espaço matemático de alta dimensionalidade.

Essa diferença é juridicamente decisiva. Um sistema determinístico permite, ao menos em tese, rastrear a regra que produziu o resultado. Um modelo probabilístico pode produzir respostas plausíveis sem que exista uma cadeia explicativa simples, humana e textual. Em modelos de linguagem, como os LLMs, a geração de texto se dá por predição de sequências, aprendizado de padrões linguísticos e representação vetorial de contextos. A aparência de compreensão pode superar a própria compreensão. A máquina escreve como quem pensa, mas opera como quem calcula.

É nesse ponto que surge um dos maiores riscos jurídicos: a confusão entre fluência e verdade. Um modelo generativo pode produzir texto convincente, elegante, articulado e falso. Pode inventar precedentes, distorcer normas, comprimir exceções, omitir divergências, alucinar fundamentos, confundir jurisdições, descontextualizar citações e apresentar como certeza aquilo que é mera probabilidade. No Direito, essa falha não é detalhe técnico. É risco institucional.

A linguagem jurídica possui densidade normativa, historicidade, hierarquia, competência, procedimento e consequência. A IA generativa não pode ser tratada como simples redatora universal. Um contrato não é apenas texto; é alocação de riscos. Uma petição não é apenas linguagem; é ato processual. Uma sentença não é apenas narrativa; é exercício de poder estatal. Uma recomendação administrativa não é apenas fluxo; pode afetar acesso a benefício, crédito, saúde, educação, liberdade ou reputação.

Sob o ponto de vista técnico, é indispensável diferenciar camadas da IA. Há sistemas de classificação, regressão, recomendação, visão computacional, processamento de linguagem natural, reconhecimento biométrico, modelos generativos, agentes autônomos, sistemas multiagentes, modelos embarcados, IA em borda, sistemas de decisão automatizada, arquiteturas de recuperação aumentada por geração, ou RAG, e pipelines que combinam bases vetoriais, embeddings, APIs, filtros de segurança, logs e mecanismos de avaliação.

Cada uma dessas camadas possui riscos próprios. Um modelo de crédito pode discriminar por proxy, usando endereço, histórico de consumo ou padrões indiretos que reproduzem desigualdades. Um sistema de reconhecimento facial pode apresentar taxas desiguais de erro entre grupos demográficos. Um chatbot jurídico pode fornecer orientação errada com aparência de autoridade. Um agente autônomo conectado a sistemas internos pode executar ações indevidas. Um modelo treinado com dados sensíveis pode vazar informações. Um sistema de triagem judicial pode reforçar prioridades injustas se treinado sobre histórico institucional enviesado.

Daí a importância da engenharia de governança. Não há IA responsável sem documentação técnica, curadoria de dados, avaliação de viés, teste adversarial, controle de versão, trilha de auditoria, definição de finalidade, limitação de acesso, gestão de incidentes, explicabilidade proporcional, supervisão humana efetiva e responsabilidade contratual entre fornecedores, operadores e usuários institucionais.

No campo jurídico, a técnica não é acessório. É pressuposto de validade. Um juiz, advogado, promotor, gestor público ou regulador que não compreende minimamente a diferença entre modelo determinístico, modelo probabilístico, automação simples e IA generativa corre o risco de aplicar categorias jurídicas antigas sobre fenômenos novos, como quem tenta julgar um relâmpago com regras de cartório.

3. INTELIGÊNCIA ARTIFICIAL COMO INFRAESTRUTURA DE PODER

A IA não é apenas uma tecnologia. É uma forma de organizar percepção. Sistemas de IA decidem o que aparece, o que some, o que é priorizado, o que é suspeito, o que é relevante, o que merece crédito, o que recebe atenção, o que será investigado e o que será ignorado. Isso a aproxima das grandes infraestruturas de poder da modernidade: registros civis, bancos, telecomunicações, estatísticas estatais, arquivos policiais, sistemas educacionais, mercados financeiros e plataformas digitais.

Michel Foucault demonstrou que o poder moderno não opera apenas pela proibição, mas pela produção de saber, classificação e normalização. A IA radicaliza esse fenômeno. Ela não apenas observa a sociedade; ela a classifica em tempo real. Não apenas registra condutas; infere intenções. Não apenas organiza arquivos; produz perfis. Não apenas calcula tendências; intervém no comportamento por recomendações, nudges, rankings e filtros.

Nesse sentido, o algoritmo é o novo burocrata invisível. Weber descreveu a burocracia como racionalização impessoal do poder. A IA leva essa racionalização ao extremo: decisões sem rosto, processos sem balcão, critérios sem linguagem comum, escalas sem escuta. O risco não está apenas na máquina errar. Está na máquina errar sem que o cidadão consiga saber que foi ela, por que foi ela, com quais dados, segundo quais critérios e diante de quem pode reclamar.

O Direito Internacional dos Direitos Humanos e o Direito Constitucional brasileiro foram edificados sobre uma ideia central: o poder precisa se justificar perante a pessoa. A IA ameaça essa arquitetura quando converte a pessoa em objeto de inferência sem transparência, sem contestação e sem participação. Não é aceitável que a vida jurídica do indivíduo seja decidida por sistemas que operam como oráculos privados.

A expressão “caixa-preta” tornou-se comum, mas é insuficiente. O problema não é apenas a opacidade técnica interna. Muitas vezes, há também opacidade organizacional, contratual, institucional e econômica. O órgão público não sabe exatamente como o fornecedor treinou o modelo. O fornecedor invoca segredo industrial. O usuário institucional confia na interface. O cidadão recebe o efeito. O juiz examina o resultado. E a responsabilidade se dissolve na névoa.

A governança da IA deve atacar essa cadeia inteira. A pergunta jurídica não pode ser apenas “qual foi o output?”. Deve ser: qual era a finalidade legítima do sistema? Quais dados foram usados? Havia base legal para o tratamento? Como se avaliou qualidade e representatividade dos dados? Quais grupos foram afetados? Houve teste de impacto? Quem aprovou o uso? Quem monitorou o desempenho? Como se documentaram erros? Como se garantiu contestação? Como se evitou discriminação? Qual humano podia alterar o resultado? Qual autoridade podia auditar?

A inteligência artificial cria poder porque cria assimetria cognitiva. Quem possui dados, computação, talentos, infraestrutura e escala define padrões invisíveis. Quem não possui apenas sofre os padrões. Por isso, a governança de IA não pode ser reduzida a compliance empresarial. É tema de democracia. É tema de soberania. É tema de igualdade material. É tema de jurisdição.

“Quando o poder deixa de falar em sentenças e passa a falar em probabilidades, o Direito deve aprender a ouvir o ruído matemático da injustiça.” Thomaz Franzese

4. DIREITO INTERNACIONAL DA IA: ENTRE SOFT LAW, TRATADOS E GEOPOLÍTICA DO CÁLCULO

O direito internacional enfrenta a IA em ambiente de fragmentação normativa. Não há, ainda, um código global único. Há um mosaico de instrumentos: princípios éticos, recomendações intergovernamentais, normas regionais, tratados emergentes, regulações setoriais, padrões técnicos, compromissos voluntários, códigos de conduta e legislações nacionais com pretensão extraterritorial.

A União Europeia assumiu posição normativa de vanguarda com o AI Act, estruturado sobre classificação de risco. A lógica é clara: nem toda IA merece o mesmo grau de regulação. Sistemas de risco mínimo podem operar com poucas exigências. Sistemas de transparência específica exigem informação ao usuário. Sistemas de alto risco demandam governança robusta, documentação, gestão de riscos, qualidade de dados, supervisão humana, robustez, segurança e monitoramento. Práticas de risco inaceitável são proibidas. Trata-se de uma arquitetura regulatória que procura equilibrar inovação e proteção.

O Conselho da Europa, por sua vez, desloca o centro para direitos humanos, democracia e Estado de Direito. A IA passa a ser examinada não apenas como produto de mercado, mas como atividade com ciclo de vida, impacto institucional e consequências públicas. Esse é o ponto correto. O risco da IA não nasce apenas no momento do uso. Nasce na coleta dos dados, na modelagem, no treinamento, na validação, na integração, na implantação, na atualização, no monitoramento e no descarte.

A UNESCO propõe uma ética global da IA ancorada em direitos humanos, dignidade, diversidade, ambiente, transparência, responsabilidade, supervisão humana e justiça social. A OCDE contribui com princípios de IA confiável, crescimento inclusivo, valores democráticos, segurança, robustez, transparência e accountability. Esses instrumentos de soft law não têm a mesma força de uma lei interna ou tratado vinculante, mas exercem função importante: criam linguagem comum, pressionam mercados, orientam políticas públicas e antecipam standards de diligência.

No plano internacional, a IA toca temas clássicos: soberania, jurisdição, responsabilidade do Estado, direitos humanos, comércio internacional, propriedade intelectual, segurança cibernética, guerra, privacidade, proteção de crianças, não discriminação, devido processo, autodeterminação dos povos e desenvolvimento.

A soberania digital é uma das questões centrais. Estados dependentes de infraestrutura estrangeira, modelos treinados fora de seu território, nuvens transnacionais, chips importados, plataformas monopolizadas e bases de dados controladas por empresas globais tornam-se normativamente vulneráveis. A soberania do século XXI não se mede apenas por fronteiras, exército e moeda. Mede-se também por capacidade computacional, governança de dados, autonomia regulatória, infraestrutura de nuvem, semicondutores, segurança cibernética, formação técnica e capacidade de auditar sistemas críticos.

Surge, então, o risco do colonialismo digital. Países periféricos podem se tornar fornecedores de dados, consumidores de modelos e receptores de padrões normativos produzidos por centros tecnológicos. Suas línguas, culturas, conflitos, desigualdades e sistemas jurídicos podem ser comprimidos por modelos treinados majoritariamente sobre realidades estrangeiras. A IA pode universalizar a eficiência e, ao mesmo tempo, provincializar a humanidade.

O Direito Internacional precisa enfrentar essa assimetria. Não basta proteger privacidade individual se o ecossistema global concentra poder cognitivo em poucos atores. Não basta falar em inovação se a inovação depende de exploração opaca de dados, trabalho invisível de rotuladores, mineração energética, captura de mercado e imposição de padrões técnicos. Não basta invocar ética se a ética não chega aos contratos, às auditorias, às sanções, à concorrência e à reparação.

A IA também desafia o direito internacional humanitário e o regime de uso da força. Sistemas autônomos de armas, drones, seleção algorítmica de alvos, vigilância de fronteiras, análise de inteligência e operações de influência digital reabrem perguntas fundamentais: pode uma máquina selecionar alvos humanos? Que nível de controle humano é juridicamente exigível? Quem responde por uma decisão letal automatizada? Como aplicar distinção, proporcionalidade e necessidade militar a sistemas probabilísticos? A desumanização técnica da violência é uma das fronteiras mais graves do nosso tempo.

Hans Jonas formulou o princípio responsabilidade diante da potência tecnológica moderna: aja de modo que os efeitos de sua ação sejam compatíveis com a permanência de uma vida autenticamente humana. A IA exige exatamente isso. A humanidade criou instrumentos capazes de afetar a cognição coletiva. O Direito Internacional deve impedir que a técnica se torne uma espécie de clima invisível da dominação.

5. DIREITOS HUMANOS, AUTONOMIA E A NOVA PRIVACIDADE ALGORÍTMICA

A privacidade não é mais apenas o direito de estar só. É o direito de não ser reduzido a perfil. É o direito de não ser permanentemente inferido, pontuado, ranqueado, previsto, manipulado e reconstruído por sistemas que extraem padrões da vida cotidiana. No contexto da IA, privacidade passa a envolver identidade, autonomia, liberdade de escolha, integridade informacional, autodeterminação e proteção contra inferências abusivas.

O modelo clássico de consentimento revela limites evidentes. O cidadão médio não compreende cadeias de tratamento de dados, modelos fundacionais, inferências secundárias, transferência internacional, treinamento em larga escala, embeddings, anonimização reversível, reidentificação, data brokers e combinações preditivas. Aceitar termos de uso não pode equivaler a renunciar à própria legibilidade moral.

A autonomia humana é ameaçada quando sistemas de IA não apenas respondem, mas direcionam comportamento. Recomendadores podem moldar consumo, opinião política, autoestima, relações afetivas, percepção de risco e identidade. Chatbots afetivos podem criar dependência emocional. Deepfakes podem destruir reputações. Sistemas de microtargeting podem manipular vulnerabilidades psicológicas. A IA generativa pode inundar o espaço público com conteúdo sintético, tornando a verdade mais cara, mais lenta e mais frágil.

No Direito Internacional dos Direitos Humanos, isso se conecta à liberdade de expressão, privacidade, igualdade, participação política, proteção contra discriminação, direito à educação, saúde, trabalho e devido processo. A IA atravessa todos esses direitos como camada transversal. Não existe “direito da IA” isolado. Existe uma transformação algorítmica de todos os direitos.

O princípio da não discriminação ganha nova complexidade. Discriminação algorítmica raramente aparece como racismo, sexismo ou exclusão explícita no código. Ela pode emergir por proxies, dados históricos enviesados, labels contaminados, métricas inadequadas, sub-representação estatística ou otimização cega. Um modelo pode ser formalmente neutro e materialmente discriminatório. A igualdade jurídica precisa, portanto, aprender a ler estatística.

A explicabilidade também deve ser compreendida como direito instrumental. O cidadão não precisa conhecer todos os pesos de uma rede neural. Mas precisa compreender, de modo suficiente, os critérios relevantes, os dados considerados, a finalidade do sistema, a influência do resultado automatizado e as vias de contestação. Explicabilidade não é curiosidade técnica. É condição de contraditório.

No campo judicial e administrativo, esse ponto é vital. O devido processo legal não se satisfaz com a existência de um botão, de um formulário ou de uma frase genérica dizendo que “o sistema indicou”. Decisões que afetem direitos devem ser justificáveis. A IA pode auxiliar, mas não pode substituir a razão pública. Uma decisão estatal deve poder ser contestada em linguagem humana.

A banalidade do mal, expressão associada a Hannah Arendt, ganha uma versão algorítmica: a banalidade do dano automatizado. Ninguém odeia, ninguém persegue, ninguém assume. Apenas se aplica o sistema, segue-se a recomendação, confia-se no score, repete-se o padrão. A violência deixa de ser paixão e se torna procedimento.

“A injustiça mais perigosa não é a que grita. É a que se apresenta como rotina, métrica, fluxo e produtividade.” Thomaz Franzese

6. O DIREITO BRASILEIRO DIANTE DA IA: CONSTITUIÇÃO, LGPD, MARCO CIVIL E GOVERNANÇA PÚBLICA

No Brasil, a regulação da inteligência artificial ainda se forma por camadas. Antes de uma lei geral específica plenamente consolidada, já existe um conjunto normativo relevante: Constituição Federal, proteção de dados pessoais como direito fundamental, LGPD, Marco Civil da Internet, Código Civil, Código de Defesa do Consumidor, Lei de Acesso à Informação, Lei do Governo Digital, normas setoriais, resoluções administrativas e, no Poder Judiciário, diretrizes do CNJ.

A Constituição é o ponto de partida. A dignidade da pessoa humana, a cidadania, a igualdade, a liberdade, a intimidade, a vida privada, a honra, a imagem, o devido processo legal, o contraditório, a ampla defesa, a motivação das decisões judiciais e a proteção de dados pessoais formam o núcleo duro contra arbitrariedades algorítmicas. Qualquer sistema de IA usado em contexto público ou privado deve ser interpretado à luz desse núcleo.

A LGPD é a principal ponte normativa entre dados pessoais e IA. Ela estabelece princípios como finalidade, adequação, necessidade, livre acesso, qualidade dos dados, transparência, segurança, prevenção, não discriminação, responsabilização e prestação de contas. Esses princípios são profundamente algorítmicos. Um modelo de IA sem finalidade clara viola a lógica da finalidade. Um treinamento com dados excessivos afronta a necessidade. Uma decisão opaca desafia a transparência. Um resultado enviesado colide com a não discriminação. Uma cadeia sem logs compromete a prestação de contas.

O art. 20 da LGPD, ao tratar da revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais, é um dos dispositivos mais importantes para a era da IA. Ainda que haja debate sobre a exigência ou não de revisão humana em sentido estrito, a leitura constitucional exige que a revisão seja efetiva, compreensível e capaz de alterar o resultado. Revisão automatizada por outro automatismo, quando afeta direitos relevantes, pode ser apenas espelho contra espelho: uma recursividade vazia.

O Marco Civil da Internet oferece princípios estruturantes de liberdade, privacidade, proteção de dados, neutralidade e responsabilidade. A Lei do Governo Digital acrescenta a dimensão da eficiência pública, interoperabilidade, serviços digitais e dados abertos. A IA no setor público deve nascer desse encontro: eficiência sim, mas sob legalidade, transparência, controle social, segurança, inclusão e auditabilidade.

No Judiciário brasileiro, o uso de IA exige cuidado máximo. O Poder Judiciário não é uma empresa de processamento de demandas. É função de Estado. A automação pode auxiliar pesquisa, triagem, agrupamento, gestão, identificação de precedentes, acessibilidade e eficiência. Mas não pode converter a jurisdição em linha de montagem probabilística. A motivação judicial deve ser humana, pública e controlável. A IA pode sugerir, mas não julgar. Pode organizar, mas não substituir a responsabilidade decisória. Pode encontrar padrões, mas não possuir prudência.

O CNJ, ao estabelecer diretrizes para IA no Judiciário, reconhece a necessidade de ética, transparência, governança, segurança, controle e alinhamento a direitos fundamentais. Isso deve ser levado a sério. Um sistema judicial de IA precisa de inventário público, classificação de risco, documentação, testes, auditoria, mecanismos de contestação, supervisão humana, proteção de dados, avaliação de impacto e gestão de incidentes.

O PL 2338/2023, por sua vez, representa a tentativa brasileira de construir um marco geral para IA. Seu mérito está em reconhecer a centralidade da pessoa humana, o uso responsável, a classificação de riscos e a necessidade de direitos para pessoas afetadas. Seu desafio será evitar dois extremos: uma regulação frágil, que vire carta de intenções, e uma regulação burocrática, que sufoque inovação sem controlar danos reais. A boa lei de IA deve ser tecnicamente informada, juridicamente densa e economicamente inteligente.

O Brasil precisa de uma regulação que compreenda sua realidade. Não pode importar modelos estrangeiros sem tropicalização jurídica. O país possui desigualdade estrutural, assimetria de acesso, baixa educação digital média, enorme litigiosidade, concentração de dados, dependência tecnológica e instituições com maturidade digital desigual. Uma IA injusta no Brasil não apenas erra: ela amplifica desigualdades históricas com verniz matemático.

7. RESPONSABILIDADE CIVIL, CONSUMERISTA, ADMINISTRATIVA E PENAL NA CADEIA DA IA

A responsabilidade por danos causados por IA exige abandonar a fantasia de que “foi o algoritmo”. Algoritmo não é sujeito moral pleno. Algoritmo é produto, serviço, componente, ferramenta, infraestrutura ou agente técnico dentro de cadeia humana e empresarial. A responsabilidade deve alcançar quem concebe, treina, fornece, integra, opera, comercializa, implanta e se beneficia do sistema.

No campo civil, a responsabilidade pode decorrer de defeito do produto, falha do serviço, negligência na implantação, ausência de informação, violação de dados, discriminação, dano moral, dano material, dano coletivo ou abuso de direito. Em relações de consumo, o CDC ganha relevância: transparência, segurança, informação adequada, responsabilidade objetiva e vulnerabilidade do consumidor dialogam diretamente com IA.

Um sistema de IA fornecido ao público deve ser seguro para o uso esperado. Se um chatbot médico fornece orientação perigosa sem advertência adequada, há problema. Se uma IA financeira induz decisão de investimento com informação imprecisa, há problema. Se uma plataforma usa IA para negar serviço essencial de forma discriminatória, há problema. Se uma empresa implementa ferramenta de RH que exclui candidatos por proxy racial, social ou de gênero, há problema.

Na administração pública, a responsabilidade se agrava pela incidência dos princípios do art. 37 da Constituição: legalidade, impessoalidade, moralidade, publicidade e eficiência. A IA pública deve ser transparente, motivável e controlável. O Estado não pode usar segredo industrial como escudo absoluto contra direitos fundamentais. Contratos públicos de IA devem prever auditabilidade, acesso a documentação, segurança, proteção de dados, reversibilidade, portabilidade e responsabilização do fornecedor.

No campo penal, a IA apresenta desafios diferentes. Não se deve criminalizar a tecnologia, mas condutas humanas que a utilizam para fraude, falsidade, extorsão, ameaça, crimes contra honra, perseguição, pornografia não consentida, violação de dispositivo, invasão, manipulação de mercado, lavagem, desinformação coordenada e falsificação documental. Deepfakes e clonagem de voz tornam urgente repensar autoria, materialidade, cadeia de custódia, perícia digital e prova.

O Direito Penal, contudo, deve agir com precisão. Pânico tecnológico costuma gerar leis ruins. O caminho adequado é identificar condutas lesivas, meios de execução, dolo, culpa, resultado, nexo causal e bens jurídicos afetados. IA não é desculpa automática, nem agravante universal. É meio técnico que pode aumentar escala, sofisticação, ocultação e dano.

Também há responsabilidade por governança insuficiente. Empresas que usam IA em sistemas de alto impacto devem realizar avaliações de impacto, documentar riscos, testar modelos, mitigar vieses, treinar equipes, informar usuários e manter canais de contestação. A omissão nessas medidas pode caracterizar culpa organizacional, defeito de compliance ou violação do dever de segurança.

A cadeia de IA é complexa. Um modelo fundacional pode ser criado por uma empresa, ajustado por outra, integrado por uma terceira, usado por uma quarta e aplicado a consumidores por uma quinta. Essa fragmentação não pode virar labirinto de irresponsabilidade. O Direito deve construir responsabilidade proporcional à posição de controle, conhecimento, benefício econômico e capacidade de prevenção.

8. IA, PROVA E PROCESSO: A CADEIA DE CUSTÓDIA DA VERDADE

A inteligência artificial também transforma a prova. Imagens, vídeos, áudios, documentos, conversas, assinaturas, logs, prints e registros digitais podem ser criados, alterados, sintetizados ou manipulados com facilidade crescente. A prova digital entra na era da suspeita estrutural. Não basta mais perguntar “existe o arquivo?”. É preciso perguntar: qual sua origem? Qual seu hash? Qual sua cadeia de custódia? Houve metadados preservados? Houve manipulação? Qual ferramenta gerou ou alterou? Há logs? Há contexto? Há versão original? Há perícia?

Deepfakes afetam reputação, família, eleições, contratos, mercado, prova penal e prova civil. A IA generativa pode criar documentos juridicamente verossímeis. Pode fabricar conversas, simular vozes, reconstruir rostos, alterar cenas, produzir laudos falsos e gerar narrativas coerentes. O processo judicial deve adaptar sua epistemologia.

A cadeia de custódia, no processo penal, ganha importância ampliada. A integridade da prova digital depende de preservação técnica, registro de coleta, armazenamento seguro, ferramentas verificáveis, perícia qualificada e contraditório efetivo. No processo civil e de família, embora a cadeia de custódia não tenha a mesma estrutura formal penal, a lógica de autenticidade, integridade e confiabilidade também deve orientar o julgador.

A IA pode ajudar na prova, mas também pode contaminar a prova. Ferramentas de análise de documentos, transcrição automática, identificação de padrões, comparação de imagens e mineração de dados podem ser úteis. Mas seus resultados devem ser submetidos à crítica técnica. Um laudo que usa IA precisa informar ferramenta, método, taxa de erro, dados, limitações, validação e grau de intervenção humana.

O contraditório tecnológico deve ser reconhecido. A parte afetada por prova produzida ou analisada por IA precisa ter condições reais de questionar método, dados, parâmetros, confiabilidade e inferências. Sem isso, há assimetria cognitiva processual. O processo deixa de ser duelo racional de argumentos e vira culto ao output técnico.

O juiz, por sua vez, deve evitar o viés de automação, isto é, a tendência de confiar excessivamente na indicação da máquina. A aura técnica pode seduzir. Um percentual, gráfico ou score pode parecer mais neutro que testemunha, mas pode carregar vieses invisíveis. A prudência judicial exige tratar IA como meio auxiliar, não como autoridade epistêmica absoluta.

“A prova digital não fala sozinha. Alguém a coleta, alguém a corta, alguém a exporta, alguém a interpreta. Onde há mediação, há risco. Onde há risco, deve haver método.” Thomaz Franzese

9. ADVOCACIA, MINISTÉRIO PÚBLICO E JUDICIÁRIO: NOVAS COMPETÊNCIAS JURÍDICAS

A IA não elimina o jurista. Elimina o jurista que se recusa a pensar tecnicamente. A advocacia do futuro exigirá leitura de logs, compreensão de sistemas, análise de dados, noções de segurança da informação, governança de modelos, privacidade, evidência digital, contratos de tecnologia, propriedade intelectual, responsabilidade algorítmica e auditoria.

O advogado não será substituído por IA quando sua função for estratégia, julgamento, empatia, ética, interpretação, negociação, construção probatória e desenho institucional. Mas será pressionado em tarefas repetitivas: resumo, pesquisa inicial, minuta padrão, revisão formal, classificação documental, due diligence, e-discovery e gestão de prazos. A vantagem competitiva estará em combinar inteligência humana e artificial com rigor.

O Ministério Público precisará desenvolver capacidade para fiscalizar danos coletivos algorítmicos, discriminação automatizada, proteção de crianças e adolescentes em plataformas, manipulação informacional, uso de IA em políticas públicas, fraudes digitais e violações massivas de dados. A atuação ministerial não poderá depender apenas de denúncias individuais. Muitos danos algorítmicos são difusos, silenciosos e estatísticos.

O Judiciário precisará formar magistrados e servidores para compreender IA sem fetichismo e sem pânico. A ignorância técnica pode produzir dois erros opostos: proibir tudo por medo ou aceitar tudo por encantamento. A boa postura é crítica: permitir o útil, auditar o sensível, restringir o perigoso, proibir o incompatível com direitos fundamentais.

Faculdades de Direito devem incorporar disciplinas de tecnologia, dados, IA, lógica, estatística básica, proteção de dados, cibersegurança, prova digital e filosofia da técnica. Não como adorno, mas como alfabetização institucional. O jurista que não entende o mundo digital julgará sombras.

A OAB também terá papel decisivo. Deve orientar uso ético de IA na advocacia, proteção de sigilo profissional, dever de conferência humana, transparência com clientes, segurança de documentos, risco de vazamento, publicidade profissional automatizada e responsabilidade por peças geradas com auxílio de IA. O advogado pode usar IA, mas não pode terceirizar sua consciência profissional.

A IA jurídica deve obedecer a uma regra simples: toda produção automatizada deve ser revisada por profissional responsável antes de gerar consequência jurídica relevante. A máquina pode rascunhar, mas o humano assina. E quem assina responde.

10. PROPRIEDADE INTELECTUAL, DIREITOS AUTORAIS E ECONOMIA DOS MODELOS

A IA generativa colocou o direito autoral no centro da disputa global. Modelos são treinados sobre grandes quantidades de texto, imagem, áudio, vídeo e código. A pergunta é inevitável: usar obras protegidas para treinamento é reprodução? É uso justo? Exige licença? Como remunerar autores? Como provar que uma obra específica influenciou determinado output? Quem é autor de conteúdo gerado por IA? Pode uma máquina ser titular de direito autoral? Quem responde por plágio ou violação de estilo?

A resposta varia entre jurisdições, mas alguns princípios podem orientar o debate brasileiro. Primeiro, autoria pressupõe criação humana. A IA pode ser ferramenta, mas não sujeito criador no sentido jurídico clássico. Segundo, o usuário ou empresa que orienta, seleciona, edita e incorpora resultado pode ter proteção sobre elementos humanos originais, não sobre mera geração automática. Terceiro, outputs que reproduzem substancialmente obras protegidas podem gerar responsabilidade. Quarto, bases de treinamento precisam ser discutidas sob transparência, licenciamento, exceções legais e equilíbrio econômico.

Há também o problema do trabalho criativo. Artistas, jornalistas, escritores, programadores e produtores de conteúdo veem seus trabalhos serem usados para treinar sistemas que competem com eles. A economia da IA pode privatizar o valor coletivo da cultura. O Direito Autoral precisa proteger criação sem impedir inovação, mas não pode aceitar extrativismo informacional irrestrito.

No software, ferramentas de IA para programação aceleram produtividade, mas criam riscos de segurança, licença e qualidade. Código sugerido pode conter vulnerabilidades, trechos semelhantes a repositórios licenciados, padrões inseguros ou dependências problemáticas. Empresas precisam de políticas de uso, revisão, análise de licenças, testes automatizados, SAST, DAST, SBOM, controle de dependências e auditoria.

Em contratos empresariais, cláusulas de IA devem tratar de confidencialidade, treinamento com dados do cliente, propriedade dos outputs, responsabilidade por alucinações, níveis de serviço, segurança, incidentes, transferência internacional, suboperadores, logs, auditoria, explicabilidade, rescisão, portabilidade, indenização e conformidade regulatória.

A economia dos modelos também levanta questões concorrenciais. Poucos atores possuem capacidade para treinar modelos fundacionais de ponta, dados massivos, GPUs, data centers e ecossistemas de distribuição. Isso pode gerar concentração, lock-in, dependência tecnológica e captura regulatória. O antitruste do século XXI precisará olhar para dados, computação, modelos, plataformas e infraestrutura de nuvem como ativos estratégicos.

11. GOVERNANÇA TÉCNICA: COMO CONSTRUIR IA JURIDICAMENTE DEFENSÁVEL

Uma IA juridicamente defensável precisa ser construída desde o início com governança. Não se conserta constitucionalidade apenas no final. O ciclo de vida deve incluir concepção, finalidade, avaliação de risco, seleção de dados, base legal, modelagem, validação, teste, implantação, monitoramento, auditoria, atualização e desativação.

O primeiro passo é inventário. Uma organização precisa saber quais sistemas de IA usa, onde estão, quem é responsável, que dados processam, que decisões afetam e quais riscos geram. Sem inventário, não há governança. O segundo passo é classificação de risco. Sistemas que afetam direitos fundamentais, acesso a serviços essenciais, crédito, emprego, educação, saúde, segurança, justiça, migração, crianças ou grupos vulneráveis devem receber controle reforçado.

O terceiro passo é governança de dados. Dados devem ser lícitos, adequados, minimizados, atualizados, representativos e protegidos. Garbage in, garbage out é expressão técnica, mas também princípio jurídico: dado ruim produz injustiça boa de aparência. Bases históricas podem carregar discriminações passadas. Treinar modelo sobre passado injusto pode automatizar a repetição do passado.

O quarto passo é documentação. Model cards, datasheets for datasets, relatórios de avaliação, registros de treinamento, parâmetros relevantes, limitações conhecidas, métricas de desempenho, testes de viés, testes de robustez, incidentes e mudanças de versão devem ser preservados. Sem documentação, não há prestação de contas. Sem prestação de contas, não há confiança.

O quinto passo é supervisão humana. Mas supervisão humana não pode ser teatro. Deve ser significativa. O humano precisa ter competência, tempo, autoridade e informação para discordar da máquina. Um servidor sobrecarregado que apenas confirma recomendações automáticas não supervisiona; legitima mecanicamente.

O sexto passo é explicabilidade proporcional. Nem todo sistema exige abertura total de código. Mas quanto maior o impacto, maior deve ser a explicação. O segredo industrial não pode destruir direitos. A solução passa por auditorias independentes, ambientes seguros, explicações por camada, relatórios técnicos para autoridades e explicações compreensíveis para pessoas afetadas.

O sétimo passo é segurança. Modelos podem sofrer ataques adversariais, prompt injection, data poisoning, model inversion, vazamento de dados, jailbreaks, extração de modelo e manipulação de outputs. IA responsável exige cibersegurança aplicada ao ciclo de vida do modelo. Não existe governança de IA sem segurança da informação.

O oitavo passo é monitoramento contínuo. Modelos degradam. Dados mudam. Populações mudam. Usos mudam. O que era seguro no laboratório pode falhar em produção. É preciso medir drift, taxa de erro, reclamações, incidentes, impactos demográficos e desempenho por subgrupos. A IA deve ser governada como organismo técnico vivo, não como documento arquivado.

12. UMA FILOSOFIA JURÍDICA DA IA: ENTRE ARISTÓTELES, KANT, ARENDT E JONAS

Aristóteles afirmou que o homem é, por natureza, um animal político. A IA desloca essa afirmação para uma nova pergunta: que tipo de animal político seremos quando nossas escolhas forem mediadas por sistemas que predizem, recomendam e induzem comportamentos? A política nasceu da palavra pública. A IA pode fortalecer a palavra pública ou soterrá-la sob conteúdo sintético, manipulação e bolhas cognitivas.

Kant ensina que o ser humano deve ser tratado sempre como fim, nunca apenas como meio. Essa é a regra de ouro da IA jurídica. Toda vez que um sistema reduz a pessoa a score, perfil, cluster ou objeto de otimização sem possibilidade de compreensão e contestação, há risco de instrumentalização. O cidadão não é input. O trabalhador não é variável. A criança não é dado comportamental. O jurisdicionado não é estatística de produtividade.

Arendt alerta para o mal banal, burocrático, obediente, sem pensamento. A IA pode produzir obediência sem sujeito. “O sistema indicou” pode virar a nova desculpa moral do século. Contra isso, o Direito deve exigir pensamento, assinatura, responsabilidade e motivação. Nenhum agente público deveria poder esconder sua decisão atrás da máquina.

Heidegger mostra que a técnica revela o mundo como estoque disponível. A IA revela a pessoa como dado disponível. O desafio ético é impedir que essa disponibilidade vire captura integral. Há zonas da existência que não devem ser colonizadas por inferência, previsão e monetização.

Hans Jonas, por fim, oferece o princípio da responsabilidade diante do poder tecnológico. Quanto maior a potência, maior o dever de cautela. IA generativa, sistemas autônomos, biometrias, vigilância, armas inteligentes e modelos fundacionais exigem responsabilidade antecipatória. O Direito não pode chegar apenas depois do dano, como legista da inovação.

A filosofia, aqui, não é ornamento. É instrumento de orientação. Sem filosofia, a regulação vira checklist. Sem técnica, a filosofia vira sermão. O caminho é unir ambas: engenharia com consciência, Direito com conhecimento técnico, inovação com limites, mercado com responsabilidade, Estado com transparência e humanidade com coragem.

“A pergunta decisiva não é se a máquina pensa. É se o homem continuará pensando quando a máquina responder por ele.” Thomaz Franzese

13. PROPOSTA DE MATRIZ JURÍDICA PARA IA NO BRASIL

O Brasil precisa de uma matriz de governança que combine cinco eixos: constitucionalidade, técnica, risco, responsabilidade e soberania.

No eixo da constitucionalidade, toda IA de impacto deve ser avaliada conforme dignidade humana, igualdade, liberdade, privacidade, proteção de dados, devido processo, contraditório, ampla defesa, motivação e não discriminação. A Constituição deve ser a camada superior do sistema, como uma espécie de firewall normativo.

No eixo técnico, devem ser exigidos inventário, documentação, logs, auditoria, segurança, avaliação de dados, testes de viés, monitoramento e explicabilidade proporcional. Não se regula IA com abstrações vazias. É preciso exigir artefatos técnicos verificáveis.

No eixo de risco, a regulação deve distinguir usos triviais, usos sensíveis, usos de alto impacto e usos proibidos. O critério deve considerar finalidade, setor, escala, vulnerabilidade dos afetados, reversibilidade do dano, autonomia do sistema, grau de opacidade e possibilidade de contestação.

No eixo de responsabilidade, deve-se distribuir deveres entre desenvolvedores, fornecedores, integradores, operadores e usuários profissionais. Quem controla risco deve responder por risco. Quem lucra com escala deve investir em segurança. Quem implanta em contexto sensível deve provar diligência.

No eixo de soberania, o país deve fomentar capacidade nacional de pesquisa, infraestrutura, modelos em língua portuguesa, datasets públicos responsáveis, computação científica, formação técnica e auditoria independente. Soberania digital não é fechar fronteiras. É não depender cegamente de infraestruturas que não se pode auditar.

14. CONCLUSÃO: A JUSTIÇA NÃO CABE INTEIRA NA MÁQUINA

A inteligência artificial é uma das maiores transformações institucionais do nosso tempo. Ela pode ampliar inteligência humana, reduzir desigualdades de acesso, acelerar a ciência, melhorar serviços públicos, fortalecer a advocacia, apoiar decisões complexas e revelar padrões invisíveis. Mas também pode produzir novas formas de dominação, discriminação, vigilância, manipulação e irresponsabilidade.

O Direito Internacional já começou a responder, por meio de tratados, princípios, regulações regionais e padrões éticos. O Direito brasileiro também se move, com base na Constituição, na LGPD, no Marco Civil, nas normas do CNJ e no debate legislativo do marco legal da IA. Mas o desafio é maior que escrever normas. É construir instituições capazes de compreender a técnica e submeter a técnica à dignidade humana.

A IA não deve ser demonizada. Também não deve ser idolatrada. Deve ser governada. O fascínio tecnológico não pode substituir a prudência jurídica. A promessa de eficiência não pode esmagar a exigência de justiça. A máquina pode auxiliar o Direito, mas não pode herdar sua alma.

Em última análise, a pergunta sobre IA e Direito é uma pergunta sobre civilização. Queremos uma sociedade em que pessoas possam compreender, contestar e influenciar decisões que afetam suas vidas, ou aceitaremos um mundo em que a autoridade se esconde em modelos opacos? Queremos inovação como emancipação ou como captura? Queremos tecnologia como ponte ou como jaula?

O Direito existe para impedir que a força se converta em destino. No século XXI, parte dessa força será algorítmica. Por isso, o jurista precisa aprender a ler o código, auditar o modelo, questionar a base, exigir a explicação e defender a pessoa.

A justiça não cabe inteira na máquina porque a justiça exige memória, dor, contexto, escuta, responsabilidade e coragem. A IA pode calcular. Pode sugerir. Pode organizar. Pode iluminar. Mas a decisão que toca a dignidade humana deve continuar pertencendo a alguém capaz de responder por ela.

“Onde houver uma pessoa reduzida a número, deve haver Direito suficiente para devolvê-la ao nome.” Thomaz Franzese

REFERÊNCIAS BIBLIOGRÁFICAS ESSENCIAIS

ABHIVARDHAN. Artificial Intelligence Ethics and International Law: Practical Approaches to AI Governance. 2. ed. BPB Online, 2024.

ARENDT, Hannah. Eichmann em Jerusalém: um relato sobre a banalidade do mal. São Paulo: Companhia das Letras.

ARISTÓTELES. Política. Traduções diversas.

BRASIL. Constituição da República Federativa do Brasil de 1988.

BRASIL. Lei nº 12.965, de 23 de abril de 2014. Marco Civil da Internet.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais.

BRASIL. Lei nº 14.129, de 29 de março de 2021. Lei do Governo Digital.

BRASIL. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o uso da inteligência artificial.

CONSELHO DA EUROPA. Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law. 2024.

CONSELHO NACIONAL DE JUSTIÇA. Resolução nº 615, de 11 de março de 2025.

EUROPEAN UNION. Regulation (EU) 2024/1689. Artificial Intelligence Act.

FOUCAULT, Michel. Vigiar e punir. Petrópolis: Vozes.

HEIDEGGER, Martin. A questão da técnica. Traduções diversas.

JONAS, Hans. O princípio responsabilidade. Rio de Janeiro: Contraponto.

KANT, Immanuel. Resposta à pergunta: Que é o esclarecimento? Traduções diversas.

OECD. OECD AI Principles. 2019, atualização 2024.

REED, Stephen K. Integrating Human and Artificial Intelligence: Software in the Age of AI. Routledge, 2026.

UNESCO. Recommendation on the Ethics of Artificial Intelligence. 2021.

WEBER, Max. Economia e sociedade. Brasília: Editora UnB.

Por: Thomaz Franzese