A deputada federal Erika Hilton (PSOL-SP) denunciou ao Ministério Público Federal (MPF) e à Autoridade Nacional de Proteção de Dados (ANPD) a inteligência artificial Grok, integrada à rede social X, por gerar e publicar imagens eróticas de mulheres e crianças reais sem qualquer consentimento. A iniciativa busca responsabilizar a empresa e proteger a integridade, a dignidade e os direitos de mulheres, crianças e adolescentes.
Segundo a representação, a ferramenta permite que usuários solicitem alterações em fotos publicadas na rede social, incluindo a remoção ou troca de roupas e a produção de imagens sexualizadas e com conotação pornográfica. A denúncia aponta que o Grok teria produzido deepfakes eróticas de mulheres adultas e também de crianças e adolescentes, ampliando a circulação desse material mesmo após denúncias públicas.
Erika Hilton afirma que a prática configura crime e viola direitos fundamentais. “Isso tudo é crime. O direito à imagem é individual, não é transferível por meio dos ‘termos de uso’ de uma rede social e a distribuição em massa de pornografia infantil por uma inteligência artificial integrada a uma rede social ultrapassa todos os limites”, reforça a deputada.
Na denúncia, Erika sustenta que o fato de o conteúdo ser gerado artificialmente não elimina sua ilicitude. A representação cita dispositivos do Estatuto da Criança e do Adolescente, da Lei Geral de Proteção de Dados, do Marco Civil da Internet, da Lei nº 15.123/2025 e de tratados internacionais para reforçar que a configuração do crime independe da forma de produção do material.
Entre os pedidos apresentados ao MPF estão a instauração de procedimento investigatório, a suspensão imediata ou restrição das funcionalidades do Grok, a apresentação de informações técnicas sobre filtros e mecanismos de proteção e a atuação da ANPD. Em caso de descumprimento, a deputada solicita multa diária e a desativação da ferramenta em todo o território nacional até que salvaguardas eficazes sejam implementadas.