O Grok, chatbot de inteligência artificial da xAI, empresa de Elon Musk, reconheceu nesta sexta-feira (2) que falhas em seus sistemas de segurança permitiram a geração de imagens sexualizadas envolvendo menores, que acabaram sendo publicadas na rede social X.
De acordo com a companhia, medidas corretivas já estão em andamento para impedir que situações semelhantes voltem a ocorrer. O caso levou ministros franceses a acionarem a Arcom, órgão regulador da mídia na França, para avaliar se o conteúdo violou a Lei de Serviços Digitais da União Europeia, conforme informou a agência Reuters.
Em nota, autoridades classificaram o material como “sexual e sexista” e afirmaram que ele é “claramente ilegal”. As imagens, criadas a partir de comandos feitos por usuários ao Grok, mostravam menores em trajes considerados inadequados. O chatbot declarou que identificou falhas nos mecanismos de proteção e que a produção de qualquer conteúdo relacionado a abuso sexual infantil é ilegal e expressamente proibida.
Fonte: G1
