Por Kalinka Regina Lucas Jaquie Castelo Branco

A inteligência artificial (IA) tem se consolidado como uma das tecnologias mais revolucionárias da era moderna, reconfigurando setores que vão desde a economia, passando pela saúde e alcançando a segurança. Quando voltamos o olhar para o Estado e para a administração pública, a adoção da IA deixa de ser apenas uma inovação tecnológica e passa a representar uma mudança profunda na forma como os governos tomam decisões e interagem com a sociedade.

O uso dessas ferramentas digitais não é exatamente novo, mas a ascensão do Big Data (grande volume de dados) e do machine learning (aprendizado de máquina), elevou a capacidade estatal a um patamar inédito, transformando a IA em uma verdadeira meta-ferramenta para a elaboração de políticas públicas, essas tradicionais, mas que agora passam a ser tratadas de uma forma diferente.

É neste cenário de transformação que emerge o conceito de políticas públicas baseadas em evidências. Mas o que isso significa na prática? E, mais importante, como podemos garantir que os “algoritmos”, ou melhor, as IAs que guiam o futuro do nosso país, sejam justas, éticas e transparentes?

A revolução das evidências e dos dados abertos

Tradicionalmente, a formulação de políticas públicas basicamente dependia de intuições, tentativas de acerto e erro, ou eram limitadas a amostragens de dados. Hoje, podemos vivenciar a realidade das políticas públicas baseadas em evidências, um movimento que busca substituir o achismo pela análise sistemática e científica dos fatos e dados existentes. Na administração pública, isso significa utilizar o enorme volume de dados abertos disponíveis para construir um setor público digital universal, acessível, transparente e eficaz, provendo uma revolução a partir de evidências na proposição de políticas públicas.

Isso é realizado graças à capacidade da IA em processar esses grandes volumes de dados em alta velocidade e identificar padrões simples e, principalmente, os mais complexos, permitindo que os governos melhorem a eficiência das ações governamentais e que também possam diminuir gastos e planejar investimentos. Por exemplo, na área da saúde pública, sistemas de IA já se mostraram capazes de analisar notícias globais e relatórios de saúde para prever surtos epidêmicos, como ocorreu nos estágios iniciais da pandemia de Covid-19, alertando o mundo dias antes das autoridades de saúde tradicionais. Além disso, essas tecnologias permitem otimizar a alocação de recursos financeiros, automatizar processos burocráticos e analisar imagens médicas complexas para diagnósticos rápidos e precisos. Atividades simples podem ainda ser simplificadas, como a informação de horários de consultas, retiradas de medicamentos, planejamentos de distribuição de medicamentos de alto custo em farmácias específicas, entre muitas outras.

Desta forma, o conhecimento extraído desses dados permite prever tendências, simular o impacto de intervenções antes que elas sejam aplicadas em larga escala, e avaliar de forma rigorosa os resultados alcançados pelas ações do Estado.

Contudo, a transição de um governo guiado por humanos para um moldado por algoritmos não é um processo automático, muito menos simples e isento de riscos. A IA não é uma tecnologia neutra; ela é um artefato que carrega valores e pode moldar profundamente a sociedade. É neste ponto exato que a governança se torna o pilar central da adoção tecnológica.

No contexto desta discussão, compreende-se que a governança de IA é um sistema de regras, práticas, processos e ferramentas tecnológicas que devem ser empregadas para assegurar que uma organização use a tecnologia de IA alinhada com as estratégias, os objetivos e, principalmente, os valores da organização, atendendo aos requisitos não somente legais mas também éticos seguidos pela organização.

Na administração pública, a governança de IA servirá para orientar o desenvolvimento, a implementação e o uso contínuo de sistemas algorítmicos de maneira responsável. Sem essa estrutura, corremos o risco de transformar o Estado em um mero sistema de controle cibernético baseado na extração desenfreada de dados dos cidadãos, um fenômeno alertado por pesquisadores como “capitalismo de vigilância”. A governança garantirá que os dados não sejam tratados apenas como matéria-prima, mas que seu uso esteja estritamente alinhado com o respeito aos direitos fundamentais e à promoção do bem comum.

Apesar das enormes oportunidades, a delegação de decisões para as máquinas introduz desafios regulatórios e morais complexos. Um dos maiores riscos é a discriminação algorítmica e a perpetuação de desigualdades. Sistemas de aprendizado de máquina aprendem a partir de dados históricos. Se os dados de saúde ou de economia de um país refletem desigualdades passadas ou viés racial, de gênero ou de classe, o algoritmo irá, inevitavelmente, aprender e perpetuar essas injustiças sob uma máscara de objetividade técnica. Sendo assim, a visão humana deve existir e ser permanente, para que a inteligência das máquinas possa ser ajustada para, como já mencionado, refletir o que se espera para um bem comum.

Outro desafio é a opacidade dos algoritmos, frequentemente chamados de caixas-pretas (black boxes). Em modelos avançados como as redes neurais profundas (deeplearning), nem mesmo os próprios desenvolvedores conseguem explicar com clareza a lógica exata que levou o sistema a tomar uma determinada decisão. Em áreas sensíveis como a saúde pública, em que um falso diagnóstico ou a negação automatizada de um tratamento afeta diretamente a vida humana, a falta de transparência é inaceitável.

Essas questões culminam no que a ciência chama de problema do alinhamento: a extrema dificuldade de garantir que os objetivos otimizados matematicamente pelos computadores estejam, de fato, alinhados com os valores humanos, a justiça social e a ética pública. Um algoritmo pode ser programado para reduzir custos hospitalares e, ao fazê-lo, restringir o acesso a cuidados de populações marginalizadas que já enfrentam barreiras estruturais.

Para superar esses gargalos e fazer da IA uma verdadeira aliada das políticas públicas baseadas em evidências, a literatura científica e as normas internacionais propõem soluções práticas e estruturas de governança flexíveis. Algumas das principais diretrizes incluem:

• Inteligência Artificial Explicável (XAI): a transparência é essencial para construir confiança. O uso de IA Explicável garante que os processos de tomada de decisão do algoritmo possam ser traduzidos em termos compreensíveis, permitindo que os gestores justifiquem suas ações e que os cidadãos afetados possam contestá-las.
• IA centrada no ser humano (human-in-the-loop): o controle final sobre decisões críticas deve sempre pertencer aos humanos. Os algoritmos devem ser trabalhados como ferramentas de apoio que possam auxiliar a decisão dos envolvidos nas atividades que estão sendo avaliadas e nos formuladores de políticas, e nunca como substitutos irrestritos da deliberação humana.
• Auditoria independente e sandboxes regulatórias: as tecnologias de IA precisam passar por auditorias regulares de terceiros para identificar vieses antes e depois de serem aplicadas na sociedade. Além disso, governos estão adotando sandboxes regulatórias, que são ambientes controlados onde inovações podem ser testadas com segurança antes de serem liberadas em larga escala.
• Resgate de valores humanos: uma política pública baseada em evidências não deve focar apenas no indivíduo ou no risco, mas usar a IA para reforçar a coesão social, a infraestrutura de apoio mútuo e a humanização do atendimento.

A inteligência artificial representa um divisor de águas na forma como pensamos a governança e a sociedade. A utilização dessa tecnologia para fomentar políticas públicas baseadas em evidências oferece a promessa de um Estado mais ágil, preciso e capaz de prever crises antes que elas ocorram, além de garantir uma melhor aplicação de recursos públicos. No entanto, a eficiência estatística jamais poderá suplantar a ética.

Ao adotar uma boa governança de IA, será possível assegurar que essas ferramentas permaneçam alinhadas com as estratégias institucionais e, principalmente, com o compromisso inegociável de proteger os direitos fundamentais, promover a justiça social e salvaguardar a dignidade humana em um mundo cada vez mais digital. A tecnologia deve servir ao bem comum, e o futuro das políticas públicas baseadas em evidências dependerá diretamente da nossa capacidade de manter o humano no comando assistido por essas ferramentas digitais.

Kalinka Regina Lucas Jaquie Castelo Branco é professora associada do Instituto de Ciências Matemáticas e de Computação da USP.