Comitê Gestor da Internet exige mais rigor de redes sociais, lojas de aplicativos e empresas no uso da IA generativa

O Comitê Gestor da Internet no Brasil (CGI.br) divulgou uma nota pública expressando preocupação com o uso de inteligência artificial generativa para criar imagens de exploração sexual de mulheres, crianças e adolescentes, em razão de recentes denúncias envolvendo deepfakes e conteúdos manipulados.

O Comitê reforça que o Brasil já possui leis como o Marco Civil da Internet, a LGPD e o ECA, que garantem direitos e proteções aos usuários. Destaca também a importância de autoridades acompanharem os avanços tecnológicos e cobra que empresas de IA, lojas de aplicativos e plataformas digitais adotem políticas de moderação mais rigorosas, prevenindo a produção e a disseminação desses conteúdos.

O Convergência Digital disponibiliza a íntegra do comunicado:

O COMITÊ GESTOR DA INTERNET NO BRASIL – CGI.br, em sua 6ª Reunião Ordinária de 2025, realizada em 16 de junho, e no uso das atribuições que lhe confere o Decreto nº 4.829/2003, em vista de recentes denúncias sobre a geração de imagens de exploração sexual de mulheres, crianças e adolescentes por aplicações de inteligência artificial generativa e

CONSIDERANDO

a) que 93% das crianças e adolescentes entre 9 e 17 anos e 84% das mulheres brasileiras de 14 anos ou mais têm acesso à Internet no Brasil, de acordo com os dados das últimas edições da pesquisa TIC Kids Online (https://cetic.br/pt/pesquisa/kids-online/indicadores/) e TIC Domicílios (https://cetic.br/pt/pesquisa/domicilios/indicadores/), sendo estes grupos impactados por inúmeros benefícios, mas também por riscos especialmente vivenciados no uso de plataformas digitais cada vez mais implementadas em suas atividades cotidianas;

b) os riscos e danos vivenciados por mulheres, crianças e adolescentes por meio de usos indevidos de ferramentas de IA generativa, em especial pela difusão de conteúdos de exploração sexual infantil, deepfakes, deepnudes, abuso e violência sexual, dentre outras violações destes grupos vulneráveis, que podem sofrer violências irreparáveis, com a possibilidade de disseminação exponencial pela Internet.

VEM A PÚBLICO

1. Corroborar as preocupações com a proteção de mulheres, crianças e adolescentes no uso de aplicativos e plataformas digitais. A realidade da presença expressiva desses grupos em ambientes digitais requer cuidados específicos de proteção para que sua experiência seja saudável e segura, sendo esta uma responsabilidade do Estado, das empresas detentoras de produtos e serviços disponibilizados por meio da Internet e da sociedade como um todo;
2. Salientar que leis como a Lei Geral de Proteção de Dados Pessoais – LGPD (Lei nº 13.709/2018), o Marco Civil da Internet – MCI (Lei nº 12.965/2014), e a própria Constituição Federal de 1988 já garantem uma série de direitos e proteções para usuários da Internet. Diante disso, é importante que autoridades estejam atentas aos desenvolvimentos tecnológicos, implementações e usos de ferramentas digitais, bem como empresas que oferecem produtos dessa natureza adequem seus serviços às normas brasileiras e colaborem no combate a crimes, condutas ou práticas que podem violentar grupos vulnerabilizados;
3. Destacar que a legislação brasileira abrange direitos específicos para a proteção de crianças e adolescentes, inclusive nos casos envolvendo violações e riscos em plataformas digitais. Exemplo disso é o Estatuto da Criança e do Adolescente – ECA (Lei nº 8.069/1990), que tipifica a exploração sexual infantil, incluindo práticas como a modificação, montagem e adulteração de imagens e vídeos. Além disso, há a atuação de órgãos como o Conselho Nacional dos Direitos da Criança e do Adolescente (CONANDA), o Ministério Público e as Defensorias Públicas, que desenvolvem políticas e defendem direitos e interesses de crianças e adolescentes no país, sendo importante a orientação e atenção desses agentes contra crimes de exploração sexual infantil cometidos em um cenário atual de tecnologias emergentes utilizadas para essas práticas cada vez mais difundidas em ambientes digitais;
4. Frisar que a legislação brasileira também contempla proteção especial para mulheres contra violências de gênero, incluindo a criminalização de condutas de exploração ou abuso sexual que podem ser perpetradas em ambientes digitais. Discussões legislativas recentes também buscam tipificar o crime de manipulação digital de imagens por inteligência artificial e agravar a pena em casos de crimes contra mulheres. Diante desse contexto é evidente a preocupação social com o tema e é fundamental a mobilização de ações mais contundentes de fiscalização e punição desses crimes, especialmente frente aos desafios inerentes a sistemas de IA generativa e a possibilidade de seus usos destinados à violência sexual e de gênero em variadas dinâmicas no ambiente digital. Essas preocupações incluem aspectos como a difusão desses conteúdos por plataformas digitais e o próprio oferecimento não supervisionado por lojas de aplicativos de ferramentas capazes de manipular e gerar imagens e conteúdos de exploração e abuso sexual;
5. Recomendar que empresas que oferecem serviços de geração de imagens por IA, bem como as lojas de aplicativos e as plataformas que difundem e dão acesso a esse tipo de ferramenta ou conteúdo atuem de modo proativo para:

5.1 o desenvolvimento e fortalecimento de políticas de moderação de conteúdo mais robustas e comprometidas com o banimento de serviços, práticas e usuários que violem a segurança e os direitos de mulheres, crianças e adolescentes em ambientes digitais;

5.2 o desenvolvimento e oferecimento adequado de aplicações de IA generativa, considerando a necessidade de cuidado especial com o uso de dados pessoais, bancos de imagens e modelos algorítmicos que podem resultar e difundir conteúdos de exploração sexual e outras violências e discriminações contra grupos vulnerabilizados;

6. Reforçar a disposição do CGI.br em colaborar com qualquer discussão sobre proteção de mulheres, crianças e adolescentes em ambientes digitais, seguindo seu compromisso em participar ativamente e em perspectiva multissetorial de debates relacionados à promoção de ambientes digitais mais seguros e saudáveis para a sociedade brasileira.