DEMOCRACIA AUMENTADA: COMO A INTELIGÊNCIA ARTIFICIAL ESTÁ REEQUILIBRANDO O PODER POLÍTICO NO BRASIL E NO MUNDO

Uma análise aprofundada sobre as promessas, os perigos e os caminhos para uma democracia mais participativa, transparente e humana na era dos algoritmos

---

SUMÁRIO EXECUTIVO

Este artigo examina a complexa e dinâmica relação entre a inteligência artificial (IA) e os sistemas democráticos, com ênfase no contexto brasileiro. A partir de uma análise aprofundada da obra coletiva “AI for Democracy” (Springer, 2026), que reúne pesquisas de quatro projetos financiados pelo programa Horizonte Europa (ORBIS, AI4GOV, ITHACA e KT4D), esta reportagem investiga como a IA está transformando a participação cívica, a tomada de decisão governamental e a própria legitimidade das instituições democráticas.

A análise revela uma “dupla dinâmica” fundamental: a IA oferece oportunidades sem precedentes para ampliar a participação, melhorar a compreensão de dados complexos e fortalecer a transparência governamental, mas também introduz riscos sistêmicos relacionados à opacidade algorítmica, viés estrutural, vigilância digital e concentração de poder. No Brasil, onde a confiança nas instituições já é frágil e as desigualdades são profundas, esses desafios são particularmente prementes.

O artigo argumenta que a resposta a esses desafios não está em rejeitar a tecnologia, mas em adotar uma abordagem de “IA Centrada no Ser Humano” (Human-Centered AI – HCAI), que coloca a dignidade, a agência e os direitos humanos no centro do design, governança e implantação de sistemas de IA. Esta abordagem requer a adoção de princípios como transparência, explicabilidade, contestabilidade e inclusividade, operacionalizados por meio de mecanismos de governança adaptativa, cocriação participativa e desenvolvimento de literacia digital crítica.

A conclusão é que o futuro da democracia não será decidido por robôs ou algoritmos, mas por cidadãos, formuladores de políticas e tecnólogos que souberem usar essas ferramentas como aliadas na construção de uma sociedade mais justa, participativa e resiliente. O Brasil tem a oportunidade de se tornar um laboratório para essa nova democracia aumentada, desde que invista em infraestrutura, capacitação e, acima de tudo, em um compromisso com a participação cidadã genuína.

---

PARTE I: A ENCRUZILHADA DEMOCRÁTICA NA ERA DIGITAL

1.1 O Paradoxo da IA na Democracia

A relação entre tecnologia e democracia sempre foi uma história de promessas e perigos. Do telégrafo ao rádio, da televisão à internet, cada nova onda tecnológica trouxe esperanças de uma participação cidadã mais ampla e informada, ao mesmo tempo em que criou novas formas de controle, manipulação e exclusão. A inteligência artificial, no entanto, representa algo qualitativamente diferente.

Como observam os autores do livro “AI for Democracy”, a IA não é apenas uma ferramenta para automatizar processos existentes; ela está reconfigurando as próprias condições sob as quais a deliberação pública, a representação política e a accountability institucional ocorrem. Isso acontece porque os sistemas de IA não são neutros: eles incorporam valores, suposições e intenções de seus designers e dos sistemas sociotécnicos mais amplos nos quais são implantados.

“A IA pode servir como um facilitador para a democracia participativa, introduzindo novos métodos de interação entre cidadãos e governo, particularmente através do uso de ferramentas avançadas para coleta, processamento e interpretação de contribuições cidadãs.”

No Brasil, o potencial transformador da IA já começa a se manifestar em diversas frentes. O Conselho Nacional de Justiça (CNJ) desenvolveu o sistema SINAPSES, que utiliza IA para auxiliar na análise de processos judiciais. O projeto Victor, do Supremo Tribunal Federal (STF), utiliza aprendizado de máquina para classificar recursos e identificar aqueles com “repercussão geral”. A Câmara dos Deputados, como documentado no relatório da União Interparlamentar (IPU), também tem experimentado com IA para classificação temática de projetos de lei e análise de contribuições cidadãs em consultas públicas.

Mas a história recente também está repleta de exemplos de uso problemático da IA em contextos democráticos. O escândalo dos benefícios infantis na Holanda, onde um algoritmo de detecção de fraudes classificou erroneamente milhares de famílias, muitas delas com背景 de imigrantes, serve como um alerta sombrio para o Brasil. O caso do COMPAS nos Estados Unidos, um sistema de avaliação de risco usado no sistema de justiça criminal que foi acusado de classificar desproporcionalmente réus negros como de “alto risco”, levanta questões sobre como ferramentas semelhantes podem reproduzir padrões históricos de discriminação racial no sistema judiciário brasileiro.

1.2 O Espaço Público em Crise

A integração da IA nos processos democráticos ocorre em um momento de profunda crise de confiança nas instituições políticas. Há um fosso crescente entre cidadãos e instituições políticas, juntamente com uma erosão contínua da confiança nos sistemas democráticos. Essa crise destaca a necessidade urgente de modelos inovadores e escaláveis de engajamento cívico.

“Central a essas preocupações está a questão de como a IA pode influenciar a confiança que os cidadãos depositam nas instituições democráticas — se atua como uma ponte para uma maior inclusão cívica ou como uma barreira, corroendo a confiança nos processos públicos.”

No Brasil, essa crise de confiança é particularmente aguda. Pesquisas mostram que a confiança nas instituições políticas brasileiras está entre as mais baixas da América Latina. As manifestações de 2013, o impeachment de 2016, a polarização acentuada das eleições de 2018 e 2022, e os ataques às instituições democráticas em 8 de janeiro de 2023 são sintomas de uma relação cada vez mais frágil entre cidadãos e estado.

A IA, nesse contexto, pode ser tanto uma ferramenta para reconstruir essa confiança quanto um fator que a aprofunda ainda mais. Sistemas de IA que aumentam a transparência, melhoram a prestação de serviços públicos e ampliam a participação cidadã podem ajudar a restaurar a confiança. Mas sistemas opacos, tendenciosos ou usados para vigilância e manipulação podem corroer ainda mais a já frágil relação entre cidadãos e estado.

1.3 A Dataficação da Democracia

Um dos fenômenos mais significativos e preocupantes da era digital é a “dataficação” da democracia — a crescente dependência de dados e análises para governar, legislar e participar. Como observam os autores:

“À medida que a governança se torna mais orientada por dados, isso levanta questões sobre quem controla os dados, como eles são usados e com que finalidade.”

A dataficação apresenta riscos significativos para a democracia. Primeiro, os dados são frequentemente retratados como objetivos e neutros, mas são moldados por vieses sociais, prioridades políticas e estruturas econômicas. O uso de IA na formulação de políticas pode, portanto, reforçar desigualdades existentes se os conjuntos de dados forem incompletos, não representativos ou historicamente tendenciosos. Segundo, o acesso a dados e poder computacional é distribuído de forma desigual, concentrando influência entre um pequeno número de atores — geralmente grandes empresas de tecnologia ou governos poderosos. Essa assimetria ameaça o princípio democrático de participação igual, pois apenas algumas entidades podem aproveitar plenamente os dados que moldam a vida pública.

No Brasil, a concentração de dados e poder algorítmico em grandes plataformas de tecnologia, muitas delas com sede nos Estados Unidos, levanta preocupações sobre soberania digital e a capacidade do Estado brasileiro de regular efetivamente o uso de IA em processos democráticos. O debate em torno do Marco Legal da IA (PL 2338/2023) é um reflexo dessas tensões, com interesses conflitantes entre a proteção de direitos fundamentais, a promoção da inovação e a necessidade de soberania tecnológica.

---

PARTE II: OS DESAFIOS ABERTOS

2.1 Opacidade Algorítmica e Assimetria Epistêmica

Um dos desafios mais fundamentais para a IA na democracia é a assimetria epistêmica entre desenvolvedores de IA e o público. A opacidade inerente de muitos sistemas de IA — frequentemente descrita como seu “problema da caixa-preta” — torna difícil para não especialistas entender como essas tecnologias funcionam ou examinar sua lógica.

“A opacidade dos processos algorítmicos — o conhecido problema da caixa-preta — mina o requisito democrático de que as decisões sejam explicáveis e contestáveis. Enquanto a democracia pode ser enquadrada como uma tentativa de definir coletivamente quais problemas importam e como eles devem ser abordados, os algoritmos, por outro lado, são projetados para otimizar objetivos predefinidos, em vez de se envolver em deliberação baseada em valores.”

No Brasil, onde a confiança nas instituições já é frágil, a opacidade algorítmica pode aprofundar o ceticismo público. Quando um cidadão não consegue entender por que um sistema de IA classificou seu pedido de benefício social como “de alto risco” ou por que seu caso foi selecionado para auditoria, a percepção de justiça processual é comprometida.

Um exemplo ilustrativo é o sistema de “repercussão geral” do STF, que utiliza IA para selecionar casos com impacto social significativo. Embora o sistema possa aumentar a eficiência do tribunal, a opacidade de seus critérios levanta questões sobre transparência e justiça processual. Quem decide quais casos são “socialmente relevantes”? Como os cidadãos podem contestar a classificação de seu caso como “sem repercussão geral”?

2.2 Viés Algorítmico e Desigualdades Estruturais

A pesquisa sobre viés algorítmico tem mostrado consistentemente que sistemas de IA podem amplificar desigualdades existentes. Como observam os autores:

“Decisões informadas por sistemas de IA tendenciosos ou não confiáveis podem reforçar sistemas injustos, levar à perda de confiança pública e resultar em decisões mal informadas. O viés e a discriminação em serviços públicos continuam sendo questões críticas globalmente, influenciando o acesso, a qualidade e os resultados para populações diversas.”

A literatura sobre viés algorítmico enfatiza que o viés não é um problema meramente técnico, mas socialmente produzido. Como argumentam os autores, o viés algorítmico é “entendido como sendo socialmente produzido e meramente amplificado pela IA, em vez de ser unicamente produzido tecnologicamente.”

No Brasil, as desigualdades raciais e socioeconômicas são profundas e estruturais. Sistemas de IA treinados com dados que refletem essas desigualdades correm o risco de perpetuá-las. Por exemplo, um sistema de IA usado para priorizar atendimentos em saúde pública poderia, inadvertidamente, discriminar populações que historicamente tiveram menos acesso a serviços de saúde de qualidade.

A pesquisa do ITHACA, um dos projetos do cluster “AI for Democracy”, revelou que a maioria dos participantes de Júris de Cidadãos percebeu algum impacto negativo como resultado de seu envolvimento em discussões públicas online, incluindo sentimentos de serem ignorados, julgados ou emocionalmente afetados. Esses achados destacam como a participação digital pode reproduzir desigualdades existentes, em vez de superá-las.

2.3 Fragmentação do Conhecimento e Silos Disciplinares

A pesquisa sobre IA e democracia é inerentemente interdisciplinar, mas a prática acadêmica muitas vezes permanece confinada a silos disciplinares. Como observam os autores:

“Grande parte do discurso acadêmico permanece confinada dentro de silos disciplinares. Por exemplo, estudiosos de planejamento urbano podem explorar o engajamento cívico através de cidades inteligentes, enquanto a engenharia de software se concentra na robustez técnica — mas a integração interdisciplinar permanece rara.”

Essa fragmentação tem consequências significativas. Especialistas em tecnologia frequentemente falam uma linguagem diferente dos especialistas em políticas públicas, e os cidadãos raramente são incluídos nessas conversas. Como resultado, o desenvolvimento de sistemas de IA para a democracia muitas vezes carece de uma compreensão holística dos contextos sociais, políticos e culturais em que serão implantados.

No Brasil, essa fragmentação se reflete na separação entre as discussões sobre inovação tecnológica no setor público e os debates sobre reforma política e participação cidadã. A criação de espaços interdisciplinares, como os laboratórios de inovação do CNJ e do STF, é um passo na direção certa, mas ainda há um longo caminho a percorrer.

2.4 Limitada Operacionalização do Design Participativo

Embora a participação pública e a cocriação sejam amplamente promovidas em documentos de políticas e na literatura acadêmica, há pesquisas empíricas limitadas sobre como esses processos realmente moldam os sistemas de IA. Como observam os autores:

“A literatura sobre cocriação de IA para deliberação democrática ainda está em seus estágios formativos, com poucas estruturas robustas para integrar diversas perspectivas de usuários no processo de desenvolvimento técnico.”

Essa lacuna é particularmente problemática porque a cocriação não é apenas uma questão de justiça processual; é uma necessidade funcional. Sistemas desenvolvidos sem a contribuição de usuários finais correm o risco de serem mal adaptados às necessidades reais, resultando em baixa adoção e impacto limitado.

A pesquisa do ITHACA sobre Júris de Cidadãos oferece insights valiosos sobre como a cocriação pode ser operacionalizada. Os participantes dos Júris, muitos deles de grupos vulneráveis, identificaram barreiras significativas à participação cívica digital, incluindo falta de habilidades digitais, complexidade das plataformas e medo de uso indevido de dados. Essas percepções são essenciais para o design de sistemas de IA verdadeiramente inclusivos.

---

PARTE III: PROJETOS EUROPEUS COMO LABORATÓRIOS DE INOVAÇÃO DEMOCRÁTICA

3.1 ORBIS: Ampliando a Democracia Deliberativa

O projeto ORBIS (Augmenting Participation, Co-creation, Trust and Transparency in Deliberative Democracy) representa uma abordagem inovadora para escalar a democracia deliberativa através de sistemas sociotécnicos. O projeto desenvolveu um conjunto de ferramentas habilitadas por IA projetadas para apoiar a deliberação em larga escala.

A Estrutura de Escalabilidade do ORBIS

O ORBIS adota uma abordagem tridimensional para escalar a inovação democrática:

1. Escalamento Horizontal (Scaling Out): Expansão horizontal de inovações deliberativas para diversos territórios e contextos públicos, enfatizando a transferibilidade e adaptabilidade de ferramentas e práticas democráticas.
2. Escalamento Vertical (Scaling Up): Foco na mudança institucional, visando como as práticas deliberativas podem influenciar regimes de governança, estruturas regulatórias e estruturas de políticas — garantindo que a contribuição cidadã se torne acionável e formalmente reconhecida.
3. Escalamento Profundo (Scaling Deep): Transformações culturais e baseadas em valores dentro das comunidades, promovendo mudanças de longo prazo nas normas cívicas, comportamentos e relacionamentos.

“Esta dimensão é particularmente crítica na democracia deliberativa, onde a legitimidade e o impacto dependem não apenas do alcance, mas da internalização de valores democráticos pelos participantes.”

O Conjunto de Ferramentas do ORBIS

O ORBIS desenvolveu quatro componentes inter-relacionados:

• Argument Mining (Mineração de Argumentos): Extrai e classifica declarações argumentativas em textos deliberativos.
• Feedback Aggregator (Agregador de Feedback): Sintetiza e organiza contribuições, revelando temas e padrões principais.
• Explanation Generator (Gerador de Explicações): Traduz operações algorítmicas complexas em justificativas legíveis por humanos.
• Policy Recommendation (Recomendação de Políticas): Converte resultados deliberativos em sugestões de políticas acionáveis.

Um aspecto particularmente inovador do ORBIS é seu foco na “explicabilidade deliberativa”, que vai além da explicabilidade técnica tradicional. Como explicam os autores:

“A principal barreira para a compreensão — e para o empoderamento dentro do discurso deliberativo — não é a opacidade do modelo em si, mas o fosso entre as representações algorítmicas e as práticas de raciocínio através das quais as pessoas interpretam questões públicas.”

No contexto brasileiro, ferramentas como essas poderiam ser adaptadas para apoiar consultas públicas, orçamentos participativos e outras formas de engajamento cidadão. A capacidade de processar grandes volumes de contribuições e identificar padrões significativos poderia transformar a forma como o governo ouve e responde aos cidadãos. No entanto, a implementação dessas ferramentas exigiria investimentos significativos em infraestrutura digital e capacitação de servidores públicos.

3.2 AI4GOV: Governança Confiável e Transparente

O projeto AI4GOV (Trusted AI for Transparent Public Governance fostering Democratic Values) aborda os desafios éticos, legais e de responsabilidade do uso de IA em serviços públicos. O projeto desenvolveu uma estrutura regulatória holística (Holistic Regulatory Framework – HRF) que estabelece as bases normativas para IA confiável na governança.

A Estrutura Regulatória Holística

A HRF do AI4GOV é estruturada em torno de quinze dimensões principais:

1. Conformidade regulatória
2. Equidade
3. Não discriminação e inclusividade
4. Supervisão humana
5. Design centrado no ser humano
6. Privacidade
7. Explicabilidade e transparência
8. Auditoria e monitoramento contínuo
9. Responsabilidade
10. Segurança
11. Reclamações e reparação
12. Engajamento público
13. Conscientização
14. Benefício social e bem-estar
15. Sustentabilidade

“A HRF serve como uma bússola baseada em valores para o projeto, orientando o design técnico e o alinhamento de políticas das ferramentas de IA. Ela garante que as implicações éticas, legais e sociais sejam incorporadas desde o início e usadas como base para a inovação responsável no setor público.”

O Brasil, com seu arcabouço legal em desenvolvimento para IA (PL 2338/2023), pode se beneficiar de estruturas como a HRF. A abordagem de classificação de risco proposta no PL 2338/2023 poderia ser enriquecida com insights dessas abordagens europeias, especialmente no que diz respeito à participação cidadã e à supervisão humana.

A Ferramenta de Autoavaliação

O AI4GOV desenvolveu uma ferramenta de autoavaliação abrangente que permite que organizações avaliem sistematicamente se seus sistemas de IA aderem às disposições da HRF. A ferramenta emprega um sistema de pontuação avançado que categoriza os resultados em três níveis de conformidade: não conforme (0–40%, alto risco), conformidade parcial (40–70%, precisa de melhorias) e conforme (70–100%, baixo risco).

No contexto brasileiro, uma ferramenta semelhante poderia ajudar órgãos públicos a avaliar a prontidão ética de seus sistemas de IA antes da implantação, reduzindo o risco de danos e aumentando a confiança pública. No entanto, a implementação eficaz exigiria treinamento significativo e comprometimento institucional.

3.3 ITHACA: Inclusividade na Participação Cívica

O projeto ITHACA (Artificial Intelligence To enHAnce Civic pArticipation) aborda uma questão central para a democracia deliberativa: como garantir que a inovação participativa não reproduza — ou aprofunde — formas existentes de exclusão.

O Design Centrado na Inclusividade

O ITHACA adota uma estratégia de “inclusão em primeiro lugar”, combinando métodos de governança participativa com recursos de acessibilidade habilitados por IA. O projeto desenvolveu uma plataforma de discussão inteligente para engajamento cívico na governança local, testada em duas cidades-piloto: Martin (Eslováquia) e Brașov (Romênia).

“A tecnologia deve ser projetada e alavancada de maneira inclusiva, para ajudar grupos marginalizados e vulneráveis em vez de afastá-los das inovações tecnológicas.”

Os Júris de Cidadãos

Uma das contribuições mais significativas do ITHACA foi o desenvolvimento de “Júris de Cidadãos” — grupos diversos de cidadãos convocados para discutir questões complexas. O processo de seleção dos participantes foi meticulosamente projetado para garantir a representação de grupos vulneráveis, incluindo idosos, jovens, refugiados e migrantes, pessoas com deficiências, pessoas em situação de rua, comunidades LGBTQIA+ e minorias étnicas.

Os participantes identificaram barreiras significativas à participação cívica digital:

• Falta de habilidades digitais
• Complexidade das plataformas
• Medo de uso indevido de dados
• Sentimentos de serem ignorados ou julgados

“A grande maioria dos participantes dos Júris de Cidadãos percebeu algum impacto negativo como resultado de seu envolvimento ativo em discussões ou debates públicos online no passado. Os principais motivos incluíram sentimentos de angústia emocional, serem ignorados e serem julgados com base em padrões de conhecimento ou educação.”

As lições do ITHACA são profundamente relevantes para o Brasil, onde as desigualdades digitais são pronunciadas. Dados do Comitê Gestor da Internet no Brasil mostram que o acesso à internet e as habilidades digitais variam significativamente por região, renda e raça. Qualquer iniciativa de democracia digital no Brasil deve levar essas disparidades em consideração.

3.4 KT4D: Capacitação Crítica e Literacia Digital

O projeto KT4D (Knowledge Technologies for Democracy) aborda uma dimensão frequentemente negligenciada da IA e democracia: as condições sob as quais os cidadãos podem compreender, questionar e moldar processos democráticos mediados por IA.

O Conceito de Literacia Digital Crítica

O KT4D desenvolveu uma abordagem de “Literacia Digital Crítica” (Critical Digital Literacy – CDL) que vai além das habilidades técnicas para abranger:

• A capacidade de avaliar se uma ferramenta digital é exploradora, prejudicial ou desalinhada com os valores do usuário
• A compreensão de como os sistemas de IA funcionam e quais são suas limitações
• A capacidade de questionar e contestar decisões algorítmicas

“A literacia digital crítica pode capacitar os indivíduos a tomar decisões informadas sobre quais tecnologias adotar, quais rejeitar e, talvez o mais importante, quais informações são necessárias para tomar essa decisão.”

O Laboratório de Democracia Digital

O KT4D desenvolveu um “Laboratório de Democracia Digital” (Digital Democracy Lab – DDL) que combina um guia prático com um sistema de demonstração assistido por IA. O DDL foi projetado como um workshop de um dia para explorar e demonstrar o potencial e as limitações da IA e dos grandes dados para melhorar os processos de troca democrática.

“O DDL não foi projetado como uma plataforma a ser implementada, mas como um workshop experimental que incorpora essas tecnologias dentro das melhores práticas estabelecidas para participação cívica, criando um ambiente único para entender e avaliar o papel da IA nos processos democráticos.”

O KT4D também introduziu o conceito de “atrito significativo” — a introdução deliberada de fricção nos processos de design e interação para promover reflexão e contestação. Como explicam os autores:

“Do ponto de vista deliberativo, o atrito significativo funciona como uma salvaguarda contra o consenso prematuro, a delegação acrítica à autoridade algorítmica e a erosão da responsabilidade dos cidadãos pelo julgamento.”

---

PARTE IV: A “IA CENTRADA NO SER HUMANO” COMO PARADIGMA DEMOCRÁTICO

4.1 Repensando a IA para o Bem Comum

O conceito de “Human-Centered AI” (HCAI) ou “IA Centrada no Ser Humano” emerge como uma abordagem fundamental para garantir que a IA fortaleça, em vez de minar, os valores democráticos. Como definem os autores:

“HCAI refere-se ao design e implantação de tecnologias que não apenas melhoram as capacidades humanas — como melhorar a eficiência, o empoderamento e a tomada de decisão — mas também defendem os valores humanos fundamentais.”

Essa abordagem coloca a dignidade, agência e direitos humanos no centro do design, governança e implantação de sistemas de IA. Em contextos democráticos, isso implica tratar a IA não apenas como um sistema técnico a ser otimizado, mas como um mediador sociotécnico de voz, agência e legitimidade.

“HCAI exige que as partes interessadas, especialmente comunidades marginalizadas e afetadas, estejam diretamente envolvidas na formação do desenvolvimento, implantação e supervisão de IA.”

A HCAI não é apenas uma abordagem técnica, mas um projeto político que desafia os imperativos dominantes de eficiência e otimização no desenvolvimento de IA. Em vez disso, enfatiza valores como equidade, inclusividade, transparência e legitimidade democrática. Inclui também a promoção da pluralidade epistêmica — a ideia de que o conhecimento legítimo sobre o que a IA deve fazer deve ser coproduzido com comunidades e públicos — e o fortalecimento da capacidade deliberativa, onde os cidadãos podem se envolver significativamente com as escolhas normativas, compensações e riscos incorporados nos sistemas de IA.

4.2 Cocriação e Design Participativo

Uma das dimensões centrais do HCAI é a cocriação — o envolvimento ativo de partes interessadas em todo o ciclo de vida do sistema de IA. Os projetos europeus demonstraram que a cocriação não é apenas um exercício processual, mas uma estratégia metodológica essencial para alinhar a inovação tecnológica com valores democráticos.

A Metodologia de Cocriação do ORBIS

O ORBIS desenvolveu uma metodologia de cocriação estruturada em três fases sequenciais:

1. Mapeamento: Captura da diversidade de atitudes democráticas e práticas de engajamento digital nos seis pilotos do projeto.
2. Identificação de Necessidades e Exploração de Cenários: Identificação de necessidades deliberativas concretas e exploração de cenários de uso para ferramentas habilitadas por IA.
3. Design de Jornadas e Ajuste de Protótipos: Engajamento dos pilotos no design de suas atividades, casos de uso e resultados desejados.

“A cocriação no ORBIS é entendida como um processo estruturado, iterativo e dialógico. Ela integra diversas epistemologias, prioridades e práticas de desenvolvedores de tecnologia e atores deliberativos em um caminho de inovação compartilhado.”

4.3 Do “Human-in-the-Loop” ao “Democracy-in-the-Loop”

Um conceito emergente no campo da IA e democracia é o de “Democracy-in-the-Loop” — uma evolução do conceito tradicional de “Human-in-the-Loop” (HITL). Como explicam os autores:

“Democracy-in-the-Loop abraça ambos os sentidos [do HITL], em reconhecimento da natureza da democracia como complexa, crítica e prediada na tomada de decisão e ação humana.”

Este conceito enfatiza que:

• As interações com IA em contextos democráticos devem ser entendidas como atos coletivos, não isolados
• A deliberação democrática envolve julgamento coletivo, justificação recíproca e responsabilidade compartilhada
• A IA deve ser posicionada como participante em processos de raciocínio público e sensemaking coletivo, não como substituta para a deliberação democrática

“Do ponto de vista deliberativo, Democracy-in-the-Loop reformula os paradigmas human-in-the-loop ao priorizar o julgamento coletivo, a justificação recíproca e a responsabilidade compartilhada sobre a supervisão individual, posicionando a IA como um participante em processos de raciocínio público e sensemaking coletivo, em vez de um substituto para a deliberação democrática.”

4.4 As Dimensões da Governança HCAI

A partir das contribuições de Régis et al. (2024), os autores de “AI for Democracy” identificam dez dimensões analíticas que caracterizam a HCAI no contexto democrático:

1. Design Participativo e Cocriação: Centraliza as partes interessadas ao longo do ciclo de vida do sistema de IA, capacitando vozes diversas e marginalizadas.
2. Participação Cívica e Engajamento Democrático: Promove a participação voluntária e informada dos cidadãos no design e governança da IA.
3. Abordagem Baseada em Direitos Humanos: Usa os direitos humanos como estrutura legitimadora em todo o ciclo de vida da IA.
4. Ética Decolonial: Posiciona a HCAI dentro de éticas relacionais e comunitárias, opondo-se à dominação epistêmica.
5. Governança Adaptativa: Apoia a formulação de regras flexíveis e iterativas alinhadas com valores sociais em evolução.
6. Avaliação de Políticas e Impacto: Aplica avaliação sistemática para verificar o alinhamento da IA com princípios HCAI.
7. Sistemas Sociotécnicos e Fatores Humanos: Analisa a IA dentro de ambientes de trabalho do mundo real, considerando condições físicas, cognitivas e organizacionais dos usuários.
8. Transparência e Explicabilidade Algorítmica: Foca em tornar os sistemas de IA compreensíveis para diversos públicos.
9. Mecanismos de Responsabilidade e Supervisão: Estabelece mecanismos institucionais e sociais para a responsabilidade da IA.
10. Legitimidade Algorítmica e Governança Democrática: Enfatiza a legitimidade processual e o raciocínio público na governança algorítmica.

---

PARTE V: INCLUSIVIDADE — O DESAFIO CENTRAL

5.1 O Que Significa Inclusividade na Democracia Digital?

A inclusividade é frequentemente apresentada como um valor fundamental da democracia, mas sua operacionalização em contextos mediados por IA é complexa. Como definem os autores, uma democracia inclusiva é:

“Uma democracia pluralista, liberal, com uma população racial e etnicamente diversa que protege os direitos políticos de indivíduos de todos os grupos igualmente.”

No entanto, a inclusividade não é uma propriedade fixa que pode ser garantida por design técnico. É um desafio em constante evolução que requer agilidade tanto dos sistemas de IA quanto dos processos pelos quais esses sistemas são imaginados, comissionados e implantados.

“A inclusividade é um desafio em mudança que requer agilidade tanto nos sistemas de IA e grandes dados voltados para a democracia e participação cívica, quanto nos processos pelos quais esses sistemas são imaginados, comissionados e implantados.”

5.2 Barreiras à Participação Cidadã

A pesquisa do ITHACA identificou barreiras significativas à participação cívica digital:

• Falta de habilidades digitais: Muitos cidadãos não possuem as habilidades necessárias para navegar em plataformas digitais complexas.
• Complexidade das plataformas: Interfaces confusas e processos de registro complicados desencorajam a participação.
• Medo de uso indevido de dados: Preocupações com privacidade e segurança desencorajam o engajamento.
• Sentimentos de exclusão: Muitos cidadãos sentem que suas vozes não são ouvidas ou valorizadas.

Os participantes dos Júris de Cidadãos também destacaram a importância de identificar potenciais danos, vieses e discriminação relacionados a atividades cívicas online, especialmente em relação ao uso indevido de dados pessoais.

5.3 O Papel da IA na Superação de Barreiras

A IA pode ajudar a superar essas barreiras de várias maneiras:

• Simplificação de linguagem: Ferramentas de IA podem traduzir textos complexos em linguagem mais acessível.
• Tradução automática: Sistemas de IA podem tornar o conteúdo acessível em múltiplos idiomas.
• Sumarização: A IA pode resumir longos documentos e debates, tornando-os mais acessíveis.
• Recomendações personalizadas: A IA pode ajudar os cidadãos a encontrar informações relevantes para seus interesses.
• Moderação de conteúdo: A IA pode ajudar a manter discussões construtivas e respeitosas.

5.4 Avaliando a Inclusividade

O ORBIS desenvolveu uma estrutura de avaliação que inclui indicadores específicos para medir a inclusividade:

• Diversidade de participantes: Mede a extensão em que os métodos deliberativos conseguem engajar uma gama ampla e diversificada de participantes.
• Representação de grupos marginalizados: Avalia se grupos marginalizados são intencionalmente identificados e significativamente incluídos.
• Oportunidades iguais de contribuição: Avalia se todos os participantes percebem que têm oportunidades justas e iguais de contribuir.
• Diversidade socioeconômica: Captura a inclusão de participantes de diversas faixas de renda e origens ocupacionais.

“A diversidade é tratada como um proxy para a capacidade dos métodos deliberativos de trazer à tona perspectivas que de outra forma permaneceriam periféricas.”

---

PARTE VI: INTERAÇÕES HÍBRIDAS E O FUTURO DA GOVERNANÇA

6.1 Interações Híbridas: Humanas e Algorítmicas

À medida que a IA se torna mais integrada aos processos democráticos, as interações híbridas entre humanos e sistemas de IA se tornam cada vez mais importantes. Os autores definem interações híbridas como:

“Configurações em que sistemas de IA apoiam, moldam ou mediam a tomada de decisão humana sem determinar totalmente os resultados, criando formas de agência compartilhada que desafiam modelos tradicionais de autoridade e responsabilidade na governança.”

Essas interações têm implicações profundas para:

• Agência: Como a responsabilidade é distribuída entre humanos e máquinas
• Responsabilidade: Quem é responsável quando decisões emergem da interação entre julgamento humano e mediação algorítmica
• Confiança: Como a confiança é formada, sustentada ou corroída em sistemas híbridos

“Decisões apoiadas por IA que resumem informações, classificam alternativas, destacam padrões ou recomendam ações exercem uma forma de influência epistêmica, direcionando a atenção para certas perspectivas enquanto marginalizam outras.”

6.2 O Modelo da Quíntupla Hélice

O futuro da IA na governança pública requer modelos de governança adaptativa que possam evoluir com as mudanças tecnológicas e sociais. O modelo da “Quíntupla Hélice” é proposto como uma estrutura para entender como a legitimidade democrática pode ser sustentada em ecossistemas de inovação complexos.

O modelo da Quíntupla Hélice conceitua a inovação como uma interação dinâmica entre:

1. Governo: Autoridade regulatória e prestação de contas
2. Academia: Rigor metodológico e reflexão crítica
3. Indústria: Desenvolvimento técnico e escalabilidade
4. Sociedade Civil: Articulação de necessidades, valores e preocupações sociais
5. Meio Ambiente: Sustentabilidade e resiliência societal de longo prazo

“Adotar a perspectiva da Quíntupla Hélice implica uma mudança de modelos lineares de transformação digital para governança baseada em ecossistemas. Os sistemas de IA não devem mais ser concebidos como ferramentas adquiridas e implantadas por administrações em isolamento, mas como infraestruturas sociotécnicas moldadas através de interação contínua com diversas partes interessadas.”

6.3 A Governança da IA como Infraestrutura Democrática

A análise comparativa dos quatro projetos europeus revela três insights transversais:

1. Não há democracia por design: Os projetos demonstram consistentemente que a democracia e a deliberação democrática não podem ser projetadas apenas por design técnico. Soluções técnicas precisam ser concebidas e incorporadas em processos participativos, éticos e reflexivos que respondam a imaginários democráticos plurais.

2. A cocriação não é um complemento processual, mas um requisito democrático: Cada um dos projetos, de maneiras distintas, incorpora práticas participativas não apenas como mecanismo de validação, mas como elemento constitutivo ao longo do processo de design. Isso representa uma evolução do design centrado no usuário para a IA centrada nas pessoas.

3. A governança da IA deve integrar justiça epistêmica e design infraestrutural: A confiança vai além da transparência, exigindo acesso significativo aos valores, representações e possibilidades codificados em sistemas técnicos. Isso implica que o (re)design deve preocupar-se não apenas com a interface das ferramentas de IA, mas também com as estruturas sociais que medeiam seu uso e interpretação.

6.4 Ética, Legalidade e Implicações Societais

A integração generalizada da IA em sistemas de governança traz implicações éticas, legais e societais profundas. Como argumentam os autores:

“A ética no setor público de IA não pode ser reduzida à conformidade formal ou ao cumprimento processual. A governança ética requer um compromisso mais profundo com a incorporação de princípios normativos — como justiça, transparência, responsabilidade, proporcionalidade e respeito pela dignidade humana — ao longo de todo o ciclo de vida dos sistemas de IA.”

Princípios-chave incluem:

• Preservação da agência humana: A automação nunca deve resultar na erosão da supervisão humana significativa ou no deslocamento da responsabilidade moral e institucional.
• Prevenção de danos: Sistemas de IA podem reproduzir ou amplificar desigualdades existentes, codificar padrões discriminatórios ou gerar efeitos de exclusão. A avaliação contínua de impacto ético é uma ferramenta de governança crítica.
• Responsabilidade legal: A responsabilidade por decisões informadas por IA deve permanecer firmemente ancorada na autoridade pública responsável.
• Confiança pública: A IA pode fortalecer ou corroer a confiança pública, dependendo de como é governada. A legitimidade societal depende não apenas dos resultados das políticas, mas também de os cidadãos perceberem os processos mediados por IA como justos, inclusivos e alinhados com valores compartilhados.

---

PARTE VII: O BRASIL NA ENCRUZILHADA — OPORTUNIDADES E DESAFIOS

7.1 O Cenário Brasileiro

O Brasil enfrenta desafios únicos na integração de IA em seus processos democráticos:

• Desigualdade digital profunda: O acesso à internet e as habilidades digitais variam significativamente por região, renda e raça. Dados do Comitê Gestor da Internet no Brasil mostram que o acesso à internet e as habilidades digitais variam significativamente por região, renda e raça, com as regiões Norte e Nordeste apresentando os menores índices de conectividade.
• Desconfiança institucional: A confiança nas instituições democráticas é frágil, tornando a transparência e a contestabilidade ainda mais críticas. Pesquisas mostram que a confiança dos brasileiros no Congresso Nacional, no Judiciário e no Executivo está entre as mais baixas da América Latina.
• Estrutura legal em desenvolvimento: O Marco Legal da IA (PL 2338/2023) está em tramitação, oferecendo uma oportunidade para incorporar princípios de IA centrada no ser humano. O projeto de lei propõe um sistema de classificação de risco para IA, mas há debates sobre como equilibrar a proteção de direitos fundamentais com a promoção da inovação.
• Iniciativas promissoras: Projetos como o Victor no STF e o SINAPSES no CNJ demonstram o potencial da IA no setor público. No entanto, essas iniciativas ainda são incipientes e frequentemente carecem de recursos e apoio institucional sustentado.
• Sociedade civil ativa: O Brasil tem uma sociedade civil vibrante e organizada, com experiência em participação social e advocacy. Organizações como a Associação Data Privacy Brasil de Pesquisa, o Instituto de Referência em Internet e Sociedade (IRIS) e o Centro de Tecnologia e Sociedade (CTS) da FGV estão ativamente engajadas nas discussões sobre IA e democracia.

7.2 O Caso do Supremo Tribunal Federal e o Sistema Victor

O sistema Victor do Supremo Tribunal Federal (STF) é um exemplo emblemático das oportunidades e desafios da IA na justiça brasileira. Desenvolvido em parceria com a Universidade de Brasília, o sistema utiliza aprendizado de máquina para classificar recursos e identificar aqueles com “repercussão geral” — um requisito para que o STF julgue casos.

O sistema promete aumentar a eficiência do tribunal, reduzindo o tempo médio de análise de 45 minutos para alguns segundos. No entanto, sua implementação levanta questões importantes:

• Transparência: Como o sistema determina quais casos têm “repercussão geral”? Os critérios são transparentes e passíveis de contestação?
• Viés: O sistema foi treinado com dados históricos que podem refletir vieses existentes. Como garantir que o sistema não perpetue esses vieses?
• Supervisão humana: Há mecanismos adequados de supervisão humana para revisar e contestar as decisões do sistema?
• Participação pública: Os cidadãos e a sociedade civil foram envolvidos no design e na avaliação do sistema?

Essas questões ecoam as preocupações levantadas pelos projetos europeus sobre a necessidade de transparência, contestabilidade e participação pública no design e implantação de sistemas de IA.

7.3 O Caso das Eleições e a Desinformação

As eleições brasileiras de 2018 e 2022 foram marcadas por debates intensos sobre o papel das plataformas digitais e dos algoritmos na disseminação de desinformação. O uso de chatbots e perfis automatizados em campanhas políticas levantou questões sobre a integridade do debate público e a necessidade de maior transparência algorítmica.

Como observam os autores de “AI for Democracy”:

“Sistemas de IA usados em campanhas políticas podem micro-direcionar eleitores de maneiras que contornam a deliberação pública, minando a transparência e a justiça dos processos eleitorais.”

No Brasil, a resposta a esses desafios tem sido fragmentada. O Tribunal Superior Eleitoral (TSE) implementou medidas para combater a desinformação, incluindo parcerias com plataformas de tecnologia e a criação de um programa de verificação de fatos. No entanto, há preocupações sobre a eficácia dessas medidas e a necessidade de uma abordagem mais abrangente e sistêmica.

7.4 O Marco Legal da IA e a Oportunidade de Liderança

O Projeto de Lei 2338/2023, que estabelece o Marco Legal da Inteligência Artificial no Brasil, representa uma oportunidade única para o país se posicionar como líder na governança democrática da IA. O projeto de lei propõe:

• Um sistema de classificação de risco para IA, proibindo ou restringindo sistemas de “alto risco”
• A criação de uma autoridade nacional de supervisão de IA
• Requisitos de transparência e explicabilidade para sistemas de IA
• Mecanismos de responsabilidade e reparação para danos causados por sistemas de IA

No entanto, o projeto de lei tem sido objeto de críticas de diversos setores. Alguns argumentam que é muito restritivo e pode sufocar a inovação. Outros argumentam que não é suficientemente forte para proteger os direitos fundamentais. Ainda outros argumentam que não aborda adequadamente as questões específicas da IA na democracia, como a participação cidadã e a deliberação pública.

A experiência dos projetos europeus sugere que uma abordagem bem-sucedida para a governança da IA na democracia deve:

1. Ser centrada no ser humano: Colocar a dignidade, agência e direitos humanos no centro do design, governança e implantação de sistemas de IA.
2. Ser participativa: Envolver cidadãos e partes interessadas no design, implantação e avaliação de sistemas de IA.
3. Ser adaptativa: Evoluir com as mudanças tecnológicas e sociais, em vez de ser estática.
4. Ser baseada em evidências: Utilizar dados e pesquisas para informar decisões de políticas.
5. Ser multi-stakeholder: Envolver governo, academia, indústria, sociedade civil e considerações ambientais.

7.5 Recomendações para o Brasil

Com base nas lições dos projetos europeus, várias recomendações emergem para o Brasil:

Fortalecer a Participação Cidadã no Design de IA

• Criar Júris de Cidadãos: Adaptar o modelo do ITHACA para envolver grupos diversos e marginalizados no design de sistemas de IA para o setor público. No Brasil, esses júris poderiam ser organizados em parceria com o Conselho Nacional de Justiça (CNJ), o Tribunal Superior Eleitoral (TSE) e outros órgãos públicos.
• Desenvolver Metodologias de Cocriação: Incorporar abordagens participativas no desenvolvimento de tecnologias cívicas, seguindo o exemplo do ORBIS. Isso poderia incluir a criação de laboratórios de inovação participativa em parceria com universidades e organizações da sociedade civil.
• Garantir Representação Diversa: Assegurar que os processos de design incluam vozes de diferentes regiões, raças, gêneros e níveis socioeconômicos. Isso é particularmente importante no Brasil, dada a diversidade regional e socioeconômica do país.

Promover a Literacia Digital Crítica

• Integrar Educação em IA no Currículo Escolar: Ensinar os cidadãos desde cedo a entender, questionar e contestar sistemas de IA. O Brasil poderia adaptar iniciativas como o “Elementos de IA” da Finlândia para o contexto brasileiro.
• Desenvolver Programas de Capacitação: Oferecer treinamento para servidores públicos, jornalistas e líderes comunitários sobre IA e democracia. O programa de capacitação em IA para servidores públicos do Reino Unido poderia servir como modelo.
• Criar Espaços de Diálogo: Estabelecer fóruns onde cidadãos possam aprender sobre IA e discutir suas implicações para a democracia. O “Laboratório de Democracia Digital” do KT4D poderia ser adaptado para o contexto brasileiro.

Estabelecer Estruturas de Governança Robusta

• Adotar uma Abordagem de “Democracy-in-the-Loop”: Garantir que os cidadãos estejam envolvidos não apenas no uso, mas no design, implantação e supervisão de sistemas de IA. Isso poderia ser institucionalizado através da criação de conselhos consultivos de cidadãos para IA no setor público.
• Implementar Ferramentas de Autoavaliação: Adaptar a ferramenta de autoavaliação do AI4GOV para o contexto brasileiro, ajudando órgãos públicos a avaliar a prontidão ética de seus sistemas de IA. A ferramenta poderia ser personalizada para refletir a legislação e as normas brasileiras.
• Criar Mecanismos de Contestação: Estabelecer canais claros para que os cidadãos possam questionar e contestar decisões algorítmicas. Isso poderia incluir a criação de ouvidorias especializadas em IA e a incorporação de requisitos de contestabilidade no Marco Legal da IA.

“A contestabilidade operacionaliza direitos democráticos em sistemas influenciados por IA, mantendo as decisões sujeitas a contestação e revisão, em vez de serem conclusivas e acríticas.”

Investir em Infraestrutura de Dados Ética

• Garantir Privacidade por Design: Incorporar princípios de privacidade desde o início do desenvolvimento de sistemas de IA. No Brasil, isso poderia ser reforçado através de diretrizes específicas da Autoridade Nacional de Proteção de Dados (ANPD).
• Promover Transparência Algorítmica: Exigir que sistemas de IA usados no setor público sejam explicáveis e auditáveis. Isso poderia incluir a publicação de relatórios de impacto algorítmico e a realização de auditorias independentes.
• Prevenir Vieses: Implementar mecanismos de detecção e mitigação de vieses em todas as fases do ciclo de vida da IA. O “Virtualized Unbiasing Framework” do AI4GOV poderia servir como modelo.

“A privacidade emerge não meramente como uma obrigação de conformidade, mas como uma precondição para a participação significativa e a legitimidade democrática.”

Fomentar a Cooperação Internacional

• Participar de Redes de Pesquisa: Engajar com projetos europeus e outras iniciativas internacionais para aprender e compartilhar experiências. O Brasil já participa de várias iniciativas internacionais de pesquisa em IA, como a Rede Latino-Americana de Inteligência Artificial (LA-IA) e o Fórum Global de IA (GPAI).
• Adaptar Boas Práticas: Contextualizar as lições aprendidas em outros países para a realidade brasileira. Isso requer uma compreensão profunda das diferenças culturais, políticas e econômicas entre o Brasil e a Europa.
• Contribuir com Perspectivas Brasileiras: Compartilhar as experiências e desafios brasileiros com a comunidade global. O Brasil tem muito a contribuir, dada sua experiência com participação social, diversidade e desafios de desigualdade.

---

PARTE VIII: O FUTURO DA DEMOCRACIA HÍBRIDA E HUMANA

8.1 Desafios Persistentes

Apesar do progresso significativo, vários desafios permanecem:

• Explicabilidade para Cidadãos: Embora os sistemas possam ser tecnicamente transparentes, suas operações frequentemente permanecem opacas para participantes comuns.
• Viés de Participação: O engajamento digital frequentemente reflete divisões digitais subjacentes, com grupos marginalizados participando menos.
• Falta de Padronização: A fragmentação de práticas e padrões dificulta a comparação e a aprendizagem entre projetos.
• Rastreabilidade Limitada: Os cidadãos frequentemente não conseguem ver como suas contribuições influenciam decisões políticas concretas.
• Desafios com Novas Tecnologias: Modelos de linguagem de grande escala (LLMs) e IA generativa introduzem novas incertezas sobre proveniência de dados, alucinações de modelo e riscos de desinformação.

“Essas lacunas não são deficiências periféricas, mas sintomas de tensões mais profundas entre escala, automação e os requisitos normativos da legitimidade democrática.”

8.2 Oportunidades e Direções Futuras

Ao mesmo tempo, o campo está maduro para inovação:

• Paradigmas Híbridos: A combinação de técnicas automatizadas com supervisão humana oferece o melhor dos dois mundos.
• Governança Adaptativa: Estruturas que podem evoluir com mudanças tecnológicas e sociais são essenciais.
• Participação como Pré-condição: A inclusão não é apenas um requisito de design auxiliar, mas uma pré-condição democrática para a participação mediada por IA.
• Valorização do Conhecimento: A capacidade de preservar, acessar e reutilizar o conhecimento gerado por projetos de inovação democrática é fundamental.

8.3 A Visão de Longo Prazo

A visão de longo prazo para a IA na democracia é de uma transformação sistêmica que:

• Coloca os Cidadãos no Centro: Sistemas de IA são projetados com e para os cidadãos, não para eles.
• Promove a Equidade: A IA é usada para reduzir, não amplificar, desigualdades existentes.
• Fortalecer a Confiança: A transparência, a contestabilidade e a responsabilidade são incorporadas em todos os níveis.
• Sustenta a Deliberação: A IA apoia, não substitui, o raciocínio público e a deliberação coletiva.

“O futuro da governança pública com IA depende da capacidade das instituições de governar a IA como um sistema sociotécnico incorporado em normas democráticas.”

8.4 O Papel dos Cidadãos na Construção do Futuro Democrático

Em última análise, o futuro da democracia na era da IA não será decidido por algoritmos ou por governos, mas por cidadãos engajados e informados. Como argumentam os autores:

“A governança democrática não pode depender apenas do que as instituições e empresas fazem ‘para’ o público; ela também depende de práticas cívicas — como as comunidades adotam, adaptam, contestam e reaproveitam a IA na vida pública cotidiana, e como a sociedade civil molda imaginários tecnológicos alternativos.”

Isso implica a necessidade de:

• Educação Cívica para a Era Digital: Capacitar os cidadãos para entender, questionar e moldar a IA.
• Espaços para Deliberação Pública: Criar fóruns onde os cidadãos possam discutir as implicações da IA para a democracia.
• Movimentos Sociais e Advocacia: Apoiar organizações da sociedade civil que trabalham para promover uma IA ética e democrática.
• Participação em Processos de Design: Envolver os cidadãos no design, implantação e supervisão de sistemas de IA.

---

CONCLUSÃO: DEMOCRACIA, IA E O FUTURO QUE QUEREMOS

A integração da inteligência artificial nos processos democráticos não é uma questão de “se”, mas de “como”. Os projetos europeus discutidos nesta reportagem — ORBIS, KT4D, AI4GOV e ITHACA — oferecem caminhos concretos para uma democracia mais participativa, inclusiva e responsiva na era digital.

Mas esses caminhos não são automáticos. Eles exigem escolhas deliberadas sobre valores, design e governança. Exigem que coloquemos os seres humanos — com suas necessidades, direitos e agência — no centro do desenvolvimento tecnológico. Exigem que repensemos o que significa participar, deliberar e tomar decisões coletivas em um mundo onde algoritmos cada vez mais medeiam nossa vida pública.

Para o Brasil, as lições são claras. O país tem a oportunidade de construir uma democracia digital que seja verdadeiramente inclusiva e participativa, aprendendo com as melhores práticas internacionais e adaptando-as ao seu contexto único. Mas isso exigirá investimento em infraestrutura, capacitação e — talvez o mais importante — um compromisso com a participação cidadã genuína.

“O futuro da democracia com IA não será decidido por robôs, mas por cidadãos que souberem usar essas ferramentas como aliadas na construção de uma sociedade mais justa e participativa.”

A democracia aumentada por IA não é um destino, mas uma jornada. Uma jornada que exige coragem para experimentar, humildade para aprender e determinação para garantir que a tecnologia sirva, e não subverta, os valores democráticos fundamentais.

A pergunta que fica não é se a IA vai transformar a democracia, mas como — e quem vai decidir como.

---

GLOSSÁRIO PARA O LEITOR BRASILEIRO

• Democracia Deliberativa: Modelo democrático que enfatiza a discussão e o debate racional como meio de tomar decisões coletivas legítimas.
• Human-Centered AI (HCAI): Abordagem que coloca os valores, necessidades e agência humanos no centro do design e implantação de sistemas de IA.
• Democracy-in-the-Loop: Conceito que enfatiza a participação cidadã e a deliberação coletiva como parte integrante do design e governança de sistemas de IA.
• Literacia Digital Crítica: Capacidade de entender, questionar e contestar sistemas digitais, incluindo IA, de forma informada e reflexiva.
• Cocriação: Processo colaborativo de design que envolve múltiplas partes interessadas, incluindo cidadãos, na criação de soluções.
• Quintuple Helix: Modelo de inovação que enfatiza a interação entre governo, academia, indústria, sociedade civil e meio ambiente.
• Viés Algorítmico: Tendência de sistemas de IA de reproduzir ou amplificar desigualdades e preconceitos existentes nos dados de treinamento.
• Opacidade Algorítmica (ou “Caixa-Preta”): Dificuldade ou impossibilidade de entender como um sistema de IA chegou a uma determinada decisão ou conclusão.
• Explicabilidade Algorítmica: Capacidade de um sistema de IA de fornecer explicações compreensíveis para suas decisões.
• Contestabilidade: Capacidade de cidadãos e partes interessadas de questionar e contestar decisões algorítmicas.

---

REFERÊNCIAS

• Mariani, I., Edmond, J., Manias, G., & Panou, M. (Eds.). (2026). AI for Democracy: Human-Centric, Trustworthy, and Inclusive Innovations. Springer Series in Design and Innovation, Volume 66. Springer.
• Projeto de Lei 2338/2023 (Marco Legal da Inteligência Artificial) – Brasil.
• Conselho Nacional de Justiça (CNJ). (2020). Inteligência Artificial no Poder Judiciário Brasileiro.
• OECD. (2025). Tackling Civic Participation Challenges with Emerging Technologies: Beyond the Hype. OECD Publishing, Paris.
• European Commission. (2021). Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act). COM(2021) 206 final.
• Comitê Gestor da Internet no Brasil (CGI.br). (2024). Pesquisa sobre o Uso das Tecnologias de Informação e Comunicação nos Domicílios Brasileiros.
• Tribunal Superior Eleitoral (TSE). (2023). Relatório sobre o Combate à Desinformação nas Eleições de 2022.
• Inter-Parliamentary Union (IPU). (2025). Use Cases for AI in Parliaments. Geneva: IPU.

---

Leia também

• COMO A IA GENERATIVA ESTÁ REESCREVENDO AS REGRAS DO DIREITOJustiça e Leis · 19.06.2026 · 17 min de leitura
• TEORIA DO DELITOJustiça e Leis · 19.06.2026 · 54 min de leitura
• FUNDAMENTOS: DIREITO POSTO E PRESSUPOSTOJustiça e Leis · 19.06.2026 · 35 min de leitura
• INTELIGÊNCIA ARTIFICIAL E O DIREITOJustiça e Leis · 19.06.2026 · 22 min de leitura