A Agência Nacional de Proteção de Dados, o Ministério Público Federal e a Secretaria Nacional do Consumidor concluíram que as medidas apresentadas pela empresa X em resposta a uma Recomendação Conjunta sobre o funcionamento da ferramenta de inteligência artificial Grok são insuficientes para sanar as irregularidades apontadas.
Segundo comunicado das instituições, a plataforma informou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. No entanto, as autoridades afirmam que as informações não vieram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam verificar a efetividade das providências. Testes preliminares realizados pelas equipes técnicas indicaram a persistência de falhas, com continuidade na geração e circulação de conteúdos incompatíveis com as recomendações já emitidas.
Diante desse cenário, ANPD e Senacon determinaram que o X implemente imediatamente medidas aptas a impedir que o Grok produza conteúdos sexualizados ou erotizados envolvendo crianças e adolescentes, bem como adultos identificados ou identificáveis que não tenham expressado consentimento. As determinações abrangem todas as versões, planos e modalidades do sistema.
No âmbito da Agência, foi expedida medida preventiva para a empresa apresentar, no prazo de cinco dias úteis, comprovação documental das medidas técnicas e organizacionais adotadas, incluindo relação detalhada das providências implementadas para corrigir as irregularidades apontadas em Nota Técnica da ANPD.
A Senacon, em medida cautelar administrativa, também determinou a adoção imediata de soluções técnicas, administrativas e organizacionais para impedir a geração ou viabilização de imagens, vídeos ou áudios com conteúdo sexualizado envolvendo menores de idade ou adultos sem consentimento. A empresa deverá apresentar enumeração detalhada das providências adotadas e encaminhar relatório métrico com dados quantitativos verificáveis sobre identificação, moderação e remoção de conteúdos relacionados ao Grok, incluindo número de conteúdos removidos, prazos médios de resposta, critérios técnicos utilizados e eventuais medidas adicionais, como suspensão de contas. A atuação do órgão é fundamentada em dispositivos do Código de Defesa do Consumidor relativos à segurança e à prevenção de danos.
No Ministério Público Federal, foi determinada a entrega de relatórios mensais, a partir deste mês, detalhando como o X está atuando para impedir e reprimir a produção de deepfakes envolvendo crianças, adolescentes e adultos sem autorização prévia. Os documentos deverão informar o número de postagens removidas e de contas suspensas em cada período. O MPF ressaltou que a empresa não foi transparente em sua resposta à Recomendação Conjunta e exigiu a apresentação periódica de elementos específicos que permitam avaliar a qualidade das providências adotadas.
As três instituições atuam de forma coordenada na apuração dos fatos, cada qual no âmbito de suas competências legais.
Entre os próximos passos, a ANPD informou que, em caso de descumprimento da medida preventiva, poderá adotar determinações adicionais compatíveis com a gravidade do caso, incluindo a imposição de multa diária, sem prejuízo da instauração de processo administrativo sancionador. A Senacon advertiu que o descumprimento das medidas cautelares poderá levar à abertura de processo administrativo e à aplicação de sanções previstas no artigo 56 do Código de Defesa do Consumidor. Já o MPF alertou que a não apresentação dos relatórios poderá caracterizar crime de desobediência, além de ensejar medidas investigatórias mais incisivas e eventual ação judicial para reparação de danos e prevenção de novos ilícitos.
