Três adolescentes entraram, nesta segunda-feira (17), com uma ação coletiva nos Estados Unidos contra a xAI, empresa de IA de Elon Musk. Elas acusam o chatbot da companhia de gerar imagens pornográficas a partir de fotos reais das jovens, segundo informaram suas advogadas.
A ação tem relação com a disseminação, no fim do ano passado, de deepfakes de mulheres e crianças nuas. A circulação dessas imagens nas redes sociais provocou indignação mundial e levou à abertura de investigações em diversos países e também no estado da Califórnia.
O processo menciona o caso de uma pessoa, já presa, que utilizou o chatbot Grok para transformar fotos comuns das adolescentes retiradas de redes sociais e outras fontes em imagens hiper-realistas de teor sexual. O conteúdo foi compartilhado em plataformas como X, Discord e Telegram, e depois passou a circular na dark web, sendo usado como moeda de troca para pornografia infantil. A ação foi protocolada em um tribunal federal de San José.
Em comunicado, a mãe de uma das vítimas relatou o impacto emocional do caso: ver a filha em crise de pânico ao descobrir que as imagens haviam sido criadas e espalhadas sem possibilidade de remoção.
As adolescentes também enfrentam consequências psicológicas. Uma delas tem pesadelos recorrentes, enquanto outra passou a usar medicação para dormir e teme participar da própria formatura.
As advogadas afirmam que a xAI teria desenvolvido o Grok sem adotar medidas eficazes para impedir a geração de conteúdo sexual envolvendo menores, diferentemente de outras empresas do setor.
De acordo com estudo do Center for Countering Digital Hate, o Grok gerou cerca de 3 milhões de imagens sexualizadas em 11 dias no fim de 2025, sendo aproximadamente 23 mil envolvendo menores de idade. Após a repercussão, a empresa passou a restringir, e
Fonte: G1
