A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa responsável pela plataforma digital X com o objetivo de coibir o uso irregular da ferramenta de inteligência artificial Grok na criação e disseminação de conteúdos sexualizados indevidos.
De acordo com documento divulgado nesta terça-feira (20), os órgãos exigem que a empresa implemente, em até 30 dias, procedimentos técnicos e operacionais capazes de identificar, analisar e remover materiais desse tipo que ainda estejam disponíveis na plataforma, quando gerados pelo Grok a partir de comandos de usuários.
Entre as medidas recomendadas está a suspensão imediata de contas envolvidas na produção e no compartilhamento de imagens de cunho sexual ou erótico criadas sem autorização, tanto de crianças e adolescentes quanto de pessoas adultas. As instituições também defendem a criação de um mecanismo claro, acessível e eficiente para que titulares de dados possam denunciar usos abusivos ou ilegais de suas informações pessoais, especialmente em casos de conteúdos sintéticos sexualizados produzidos sem consentimento.
As recomendações foram elaboradas após denúncias de usuários e análises feitas pelos próprios órgãos, além de reportagens da imprensa nacional e internacional. Os levantamentos apontaram a utilização do Grok para a produção de deepfakes — técnica de inteligência artificial que cria imagens falsas a partir de pessoas reais — com conteúdo sexualizado, erótico e até pornográfico, envolvendo mulheres, crianças e adolescentes.
Segundo as instituições, esse tipo de prática representa risco significativo à proteção de dados pessoais, às relações de consumo e à dignidade da pessoa humana, além de violar direitos coletivos e individuais indisponíveis, sobretudo de grupos mais vulneráveis.
No documento, ANPD, Senacon e MPF defendem a adoção imediata de barreiras técnicas para impedir que o Grok gere imagens, vídeos ou áudios que representem crianças e adolescentes em contextos sexualizados ou erotizados. A recomendação se estende também a pessoas maiores de idade identificadas ou identificáveis, quando não houver autorização expressa para esse tipo de conteúdo.
Os órgãos destacam ainda que, embora o artigo 19 do Marco Civil da Internet trate da responsabilidade dos provedores sobre conteúdos gerados por terceiros, o caso das deepfakes sexualizadas envolve uma atuação conjunta entre usuários e a própria ferramenta de inteligência artificial, o que caracteriza a plataforma como corresponsável pela produção do material.
O documento menciona, ainda, decisão recente do Supremo Tribunal Federal (STF), que declarou parcialmente inconstitucional o artigo 19 do Marco Civil, por entender que o dispositivo não garante proteção suficiente a direitos fundamentais. O STF estabeleceu que plataformas digitais têm dever especial de cuidado para evitar a disseminação massiva de crimes graves, especialmente aqueles cometidos contra mulheres.
As instituições também lembram que as próprias políticas internas do X proíbem a divulgação de nudez não consensual e a manipulação de imagens de terceiros com conteúdo sexual, o que reforça a necessidade de filtros mais rigorosos na ferramenta de inteligência artificial.
Caso as recomendações não sejam cumpridas, ou sejam adotadas de forma considerada insuficiente, ANPD, Senacon e MPF informam que poderão tomar outras providências, tanto na esfera administrativa quanto judicial, para assegurar a proteção dos direitos dos cidadãos, com atenção especial a mulheres, crianças e adolescentes.
