Muito além de facilitar a disseminação de desinformações, o fenômeno altera a maneira como os cidadãos se relacionam com o processo democrático
Por Denise Casatti
Pesquisadores, jornalistas, juristas e advogados têm se debruçado para compreender os impactos da inteligência artificial (IA) nos processos eleitorais ao redor do mundo. Não faltam artigos científicos, livros, reportagens e relatos jurídicos mostrando a amplitude e a complexidade do fenômeno, que vai muito além da disseminação de notícias e vídeos falsos. Apesar de usarem metodologias e abordagens diversas, a ciência que se debruça sobre o tema traz cada vez mais evidências de que o uso de ferramentas de inteligência artificial de forma indiscriminada, não regulada e transparente, coloca em risco os processos democráticos, especialmente durante as eleições.
“O uso das tecnologias digitais para gerar conteúdos falsos e desinformativos dentro do contexto político-eleitoral não é uma novidade. Foi o que ocorreu em 2016 nas eleições presidenciais dos Estados Unidos, durante o Brexit (processo de saída do Reino Unido da União Europeia) iniciado em 2017, assim como no pleito do Brasil em 2018, repetindo-se em 2022”, explicam os pesquisadores Anderson Röche Fontão Batista e Lucia Santaella no artigo “Prognóstico das deepfakes na política eleitoral“. Segundo eles, a desinformação no processo eleitoral se intensifica e se potencializa com o avanço e a rápida popularização das IAs generativas.
O exemplo mais recente apresentado pelos pesquisadores no artigo é do pleito argentino em 2023, em que houve o emprego massivo de IA generativa por ambos os candidatos à presidência, Sérgio Massa e Javier Milei. Os dois divulgaram montagens manipuladas de vídeos, chamadas de deep fakes: em um deles, Massa supostamente aparece cheirando cocaína; em outro, Milei aparece em uma narração vangloriando Margareth Thatcher, a primeira-ministra do Reino Unido, durante os ataques da Guerra das Malvinas, responsável pela morte de 649 argentinos.
Para Batista e Santaella, a questão central que aumenta o potencial de impacto da desinformação propagada pelas deep fakes é o próprio funcionamento do sistema perceptivo humano: “Não estamos equipados para duvidar do que vemos.” Mas o maior estrago que as deep fakes podem causar não é nos convencer de que “o falso é de fato verdadeiro, mas, sim, que o verdadeiro é algo falso, forjado, incutindo o ‘vírus’ da desconfiança e incredulidade no imaginário coletivo”.
Conhecido como decadência da confiança informacional, esse fenômeno corrói as condições mínimas para a deliberação democrática, como explica a pesquisadora Maria Amélia Carvalho Campos no artigo “O impacto dos deepfakes na convicção eleitoral e o papel do Estado Democrático de Direito”, capítulo do livro Inteligência artificial e direito. “Ao corroer a credibilidade de informações essenciais para o debate público, fragiliza-se a capacidade dos cidadãos de avaliar de maneira crítica os atos do poder público e as propostas políticas, enfraquecendo mecanismos de controle social e participação democrática”, escreve Campos.
Soma-se a esse contexto o poder já bastante documentado das fake news para reforçar as crenças prévias das pessoas (“viés de confirmação”), ainda que sem qualquer respaldo no real, criando as chamadas “câmaras de eco”. O problema é que, quando o que chega até nós é mediado apenas por algoritmos, operados por interesses que não podemos ver, cria-se um caldo propício à distorção da percepção dos eleitores.
Essa distorção pode ser agravada por outro ingrediente típico do funcionamento da sociedade contemporânea: o encurtamento do tempo. “Os jornalistas não conseguem concorrer com as fake news porque não há como responder na mesma velocidade em que a desinformação se propaga. Quem desinforma não está comprometido com a veracidade, mas com a imediatez. Para mim, esse é um grande desafio: como combater essa ansiedade? O nosso tempo não é mais o nosso tempo”, reflete o historiador Fernando Limongeli Gurgueira, professor na Fundação Armando Alvares Penteado (Faap). Para ele, a maior qualidade da IA é, também, seu maior defeito: “Ela entrega muito rápido, mais rápido do que o ser humano consegue, e entrega o que quer que seja”.
Transcorrida em um dos corredores da Faap, a conversa com Gurgueira aprofundou a discussão sobre tópicos levantados no painel IA, verdade e confiança: jornalismo, eleições e a crise do conteúdo sintético, no dia 15 de maio, durante a São Paulo Innovation Week. No painel, Renato Franzini, diretor de redação do G1, e Bruna Arimathea, repórter do jornal O Estado de S. Paulo, destacaram o quanto leva tempo realizar os processos jornalísticos, garantindo a credibilidade das informações divulgadas pelos veículos de comunicação. Reforçaram a necessidade da educação midiática, especialmente de esclarecer quais são as bases e os bastidores da produção das notícias, na tentativa de diferenciá-las dos conteúdos sintéticos.
Na perspectiva de Gurgueira, que é mestre em história pela USP, voltar às bases do jornalismo implicaria também reconhecer suas limitações: “O jornalismo nasce nitidamente opinativo, deixando transparente sua falta de neutralidade. Nos primórdios, fundava-se um jornal para defender um ponto de vista.” Para ele, ao fingir neutralidade, as empresas jornalísticas criam mais problemas do que soluções: “É uma ilusão imaginar a neutralidade dos veículos de comunicação, assim como também é uma ilusão pensar que a tecnologia é neutra. Qualquer tecnologia está inserida em um contexto econômico, político, histórico etc. Ela é uma produção humana, construída dessa forma e não de outra, para ser usada de determinadas maneiras, e não de outras”.
Para Arthur Gregg Sulzberger, responsável pela direção estratégica do The New York Times e presidente do conselho de administração da empresa que controla o jornal, a indústria jornalística precisa mostrar que o jornalismo original é um ingrediente essencial nas sociedades saudáveis, nas nações seguras e nas democracias fortes — e demonstrar como as ações dos gigantes tecnológicos estão colocando tudo isso em risco. Em discurso proferido no dia 1 de junho, durante o Congresso Mundial de Mídia da WAN-IFRA, ele alertou que as empresas de IA estão violando leis já consolidadas e pediu que as organizações de notícias defendam seus direitos para garantir um futuro sustentável ao jornalismo.
A substituição do papel de mediação da realidade, antes exercido pelo jornalismo, está na raiz da queda da confiança informacional. “Walter Lippmann, no livro Public opinion, de 1922, já falava que as pessoas não conseguem ter acesso direto à realidade de forma experimental. Para isso, elas fazem uso de mediadores – naquele tempo ainda era a imprensa, o jornal impresso. Depois disso, vieram os veículos de comunicação de massa e, hoje em dia, temos as redes sociais, que vão construir o que chamamos de pseudoambiente. As pessoas se alimentam de fontes para, eventualmente, formar uma percepção em relação aos fatos – que não é o fato em si”, acrescenta a pesquisadora brasileira Marília Gehrke, da Universidade de Groninger, nos Países Baixos.
Ela participou do estudo Prebunking and credible source corrections increase election credibility: Evidence from the US and Brazil, que analisou diferentes estratégias para proteger a democracia e preservar a confiança nas eleições contra a desinformação. Entre as evidências encontradas nos três experimentos do estudo, observaram-se melhores resultados na prevenção à desinformação quando as pessoas recebiam informações corretivas previamente à exposição a notícias falsas (técnica conhecida como prebunking ou pré-desmistificação, na tradução livre). A hipótese é de que esse tipo de estratégia ajuda a codificar as informações corretas na memória das pessoas e a moldar a forma como as informações subsequentes serão processadas.
Eleições
É nessa linha de atuação que a Justiça Eleitoral do Brasil aposta ao criar iniciativas como o site Fato ou Boato, que fomenta a circulação de conteúdos verídicos e estimula a verificação por meio da divulgação de notícias checadas, recomendações e conteúdos educativos. A iniciativa integra o Programa de Enfrentamento à Desinformação, que atualmente mobiliza mais de 70 instituições para enfrentar os efeitos negativos da desinformação.
Diante do uso inevitável da IA nas eleições, o Tribunal Superior Eleitoral (TSE) brasileiro aprovou novas regras para 2026, incluindo uma medida para proteger o eleitor de ataques de última hora: 72 horas antes da eleição e 24 horas depois da votação fica proibido postar qualquer conteúdo feito por inteligência artificial que use a voz ou a imagem de candidatos e figuras públicas. Se alguém desrespeitar, as plataformas digitais devem apagar o conteúdo imediatamente.
A temática foi debatida em profundidade durante o painel Desafios na segurança das redes digitais e infraestrutura das eleições de 2026, durante a São Paulo Innovation Week. No início do evento, o advogado Diogo Rais Rodrigues Moreira defendeu a relevância de definir o conceito de fake news no âmbito do direito. Professor na Universidade Presbiteriana Mackenzie, Rais atuou como juiz substituto no Tribunal Regional Eleitoral de São Paulo de 2024 ao início de 2026, e defendeu que não cabe ao Judiciário regular o que é verdade e o que é mentira, mas sim a tarefa de decidir diante do conflito, do dano e do dolo. Assim, no contexto jurídico, fake news é o conteúdo comprovado e propositadamente falso, mas com aparência de verdadeiro, capaz de provocar dano efetivo ou em potencial. Delimitar o conceito é, de fato, um passo essencial para nortear as ações dos tribunais, sem conflitar com o direito à liberdade de expressão.
Mas é preciso um olhar ampliado para jogar luz sobre a questão estrutural e profunda que permeia a sociedade: talvez os algoritmos sejam novas instituições, como afirmam os pesquisadores Ricardo Mendonça, Fernando Filgueiras e Virgílio Almeida no livro Política dos algoritmos – Instituições e as transformações da vida social. Responder à pergunta lançada pela obra ― como os algoritmos estão redesenhando as regras da vida coletiva? ― torna-se crucial para compreender seus impactos na democracia.
Ainda que existam iniciativas que buscam usar ferramentas de IA contra a desinformação, como, por exemplo, o chatbot Tá Certo Isso Aí, desenvolvido por alunos do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, convivemos, cada vez mais, com usos nocivos e não democráticos da IA.
Denise Casatti é analista de comunicação no Instituto de Ciências Matemáticas e de Computação da USP, em São Carlos. Jornalista e mestre em ciências de comunicação pela Escola de Comunicações e Artes da USP e doutora em psicologia pela Universidade Federal de São Carlos.