Três adolescentes ingressaram com uma ação coletiva nos Estados Unidos contra a xAI, alegando que o chatbot desenvolvido pela empresa foi utilizado para criar imagens sexualizadas a partir de fotos reais delas. O caso foi apresentado nesta segunda-feira (17), conforme informado pelas advogadas das jovens.
O processo menciona a atuação de uma pessoa, já detida, que teria utilizado o chatbot Grok para transformar imagens comuns das adolescentes, obtidas em redes sociais ou outras fontes, em montagens hiper-realistas com conteúdo impróprio.
As imagens, segundo a ação, foram disseminadas em plataformas como X, Discord e Telegram, antes de serem levadas para a chamada dark web, onde passaram a ser usadas como forma de troca por outros conteúdos ilegais.
O caso faz parte de um cenário mais amplo envolvendo a circulação de deepfakes de mulheres e crianças nuas no fim do ano passado, o que gerou indignação internacional e motivou investigações em diferentes países, além do estado da Califórnia.
O impacto emocional sobre as vítimas também foi destacado. Uma das mães relatou a reação da filha ao descobrir a circulação das imagens: “Ver a minha filha ter um ataque de pânico ao perceber que essas imagens haviam sido criadas e espalhadas sem nenhuma esperança de apagá-las foi horrível”.
De acordo com a ação, uma das adolescentes passou a ter pesadelos frequentes, enquanto outra necessita de medicação para dormir e teme participar da própria formatura.
As advogadas acusam a empresa de ter falhado em adotar mecanismos de segurança adequados. Segundo elas, a xAI “projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos”, sem implementar proteções já utilizadas por outras empresas do setor para impedir a produção de material envolvendo menores.
Um levantamento do Center for Countering Digital Hate apontou que o Grok gerou cerca de 3 milhões de imagens sexualizadas em apenas 11 dias no fim de 2025, sendo aproximadamente 23 mil envolvendo menores de idade.
Após a repercussão do caso, a empresa restringiu, em janeiro, o recurso de geração de imagens do chatbot apenas a usuários assinantes.
