Shadow IA e o impacto no governo brasileiro

Por Hilmar Becker*

No dia 12 de junho o Governo Federal publicou a versão final do Plano Brasileiro de Inteligência Artificial (PBIA), com previsão de investir 23 bilhões de reais até 2028. Esse plano tem impacto sobre todas as verticais e as regiões do país e é gerenciado pelo Ministério da Ciência, Tecnologia e Inovação.  Trata-se de uma empreitada baseada em 64 ações – 38 devem gerar resultados em até 12 meses. Vale destacar que, somente no Governo Federal, em 2024, 33 órgãos do governo tinham 200 projetos de inteligência artificial em desenvolvimento. Nessa jornada, a IA não é apenas uma ferramenta tecnológica, mas um meio de transformação social e econômica do Brasil.

Hoje, a maior parte dos projetos de IA no Governo Federal são pontuais, voltados para ganhos de produtividade em funções específicas. O programa Bolsa Família, por exemplo, utiliza IA para identificar inconsistências nos cadastros dos beneficiários, garantindo que os recursos sejam direcionados corretamente às famílias que realmente necessitam.

No Ministério do Meio Ambiente, por outro lado, sistemas de IA são empregados para mapear áreas verdes, identificar ilhas de calor, rastrear produtos florestais e monitorar a conformidade ambiental, fortalecendo as políticas de preservação. Em termos de modelos próprios de IA, merece destaque o plano da Universidade Federal do Amazonas (UFAM) de, em conjunto com a OpenAI, desenvolver sistemas de monitoramento com base em dados climáticos e imagens de satélite.

O momento é positivo mais exige dos líderes digitais governamentais uma visão aguda sobre as vulnerabilidades que a disseminação da IA impõe sobre os serviços públicos brasileiros.

Dados privados e a Shadow AI

A Shadow AI é um desses desafios, e a disseminação de ferramentas de IA generativa, uma realidade. Cada usuário que compartilha dados privados sobre os cidadãos ou os órgãos governamentais em plataformas como o Chat GPT está inadvertidamente alimentando uma plataforma pública que usará essas informações em seus processos de treinamento e de resposta. A Shadow AI é uma ameaça também sobre as empreitadas de desenvolvimento das aplicações e APIs do governo brasileiro. É comum que profissionais baixem modelos de IA de código aberto para acelerar projetos. Isso abre a porta para a entrada, na esteira de desenvolvimento, de modelos maliciosos com backdoors ocultos que extraem dados confidenciais.

Uma maneira de lidar com esse desafio pode ser adotar AI Gateways. Esse tipo de solução de cybersecurity atua como um ponto de controle que permite ao profissional das agências governamentais acessar plataformas públicas de IA, mas, ao mesmo tempo, bloqueia o compartilhamento de dados críticos.

Interdependência entre IA e APIs

Outra frente de batalha diz respeito à proteção das APIs cada vez mais consumidas em aplicações de IA e também em aplicações modernas. Segundo o estudo “2024 State of the API Report”, o Brasil é o terceiro maior consumidor de APIs do mundo, atrás apenas da Índia e dos EUA nesse quesito. Somente em 2024, foram 52,4 milhões de chamadas APIs.

Há uma interdependência entre as APIs e as plataformas de Inteligência Artificial (IA). Sem as APIs, não existe a Inteligência Artificial. As APIs são a maneira pela qual as interfaces de prompt se conectam ao complexo conjunto de microsserviços que constituem a retaguarda da IA. As APIs estão por trás dos agentes que são construídos e da orquestração dos fluxos entre múltiplos LLMs (Large Language Models).

A cultura de IA da agência governamental pode ganhar mais resiliência com a ajuda de plataformas ADC (Application Delivery Control) 3.0. É um modelo em que aplicações e APIs são distribuídas em múltiplas nuvens – a infraestrutura que suporta os vários portais do Governo Digital – com ajuda de recursos de segurança também baseados em IA.

Momento crucial

Para os gestores digitais do governo brasileiro, o momento é crucial. Uma nova infraestrutura está se formando, novos hábitos dos usuários estão se arraigando, novas ameaças estão surgindo.

Em busca de respostas, CIOs e CISOs de agências governamentais têm participado de fóruns como o AppWorld Revolution 2025, em que as batalhas de hoje e de amanhã podem ser discutidas com seus pares. Isso aconteceu com os líderes digitais da Agência Nacional de Transportes Terrestres (ANTT), Ministério da Agricultura e Pecuária (MAPA) e Congresso Nacional. Lidando com maturidade com desafios técnicos, de orçamento e de gestão, profissionais com décadas de experiência em governo e em tecnologia estão, neste exato momento, desenhando o futuro do Brasil.

*Hilmar Becker é Diretor Regional da F5 Brasil.