O governo da Alemanha e instituições dedicadas à preservação da memória do Holocausto cobraram que plataformas de redes sociais interrompam a circulação de imagens falsas geradas por inteligência artificial, que, segundo elas, distorcem, banalizam e desrespeitam a história.
Em carta divulgada nesta semana, memoriais de campos de concentração e centros de documentação expressaram forte preocupação com a proliferação do chamado AI slop conteúdos artificiais de baixa qualidade relacionados ao genocídio de mais de seis milhões de judeus pelo regime nazista durante a Segunda Guerra Mundial.
Entre os exemplos citados estão ilustrações altamente emocionais de episódios fictícios, como encontros inventados entre prisioneiros e soldados libertadores ou cenas irreais de crianças atrás de cercas de arame farpado. Para as instituições, esse tipo de material “trivializa e transforma a história em algo kitsch”, além de enfraquecer a confiança do público em documentos históricos autênticos.
A carta, datada de 13 de janeiro, destaca que essas imagens podem servir tanto para gerar engajamento e lucro quanto para diluir fatos históricos, inverter os papéis de vítimas e perpetradores e promover narrativas revisionistas. O ministro da Cultura e da Mídia da Alemanha, Wolfram Weimer, afirmou apoiar as iniciativas para que conteúdos gerados por IA sejam claramente identificados e, quando necessário, removidos das plataformas.
Segundo Weimer, trata-se de uma questão de respeito às milhões de pessoas perseguidas e assassinadas sob o regime de terror nazista. O debate ocorre em meio à crescente pressão sobre empresas de inteligência artificial como a xAI, de Elon Musk, responsável pelo chatbot Grok após a disseminação online de milhares de imagens deepfake sexualizadas envolvendo mulheres e menores de idade.
Assinam o documento memoriais de campos como Bergen-Belsen, Buchenwald e Dachau, entre outros locais onde judeus e outros grupos perseguidos, como ciganos e sinti, minorias sexuais e pessoas com deficiência, foram mortos.
As instituições defendem que as redes sociais adotem uma postura proativa no combate a imagens falsas sobre o Holocausto, sem depender apenas de denúncias de usuários. Entre as medidas sugeridas estão a identificação clara desses conteúdos e a proibição de sua monetização.
Especialistas alertam que a disseminação de AI slop que inclui textos, imagens e vídeos falsos pode poluir o ambiente informativo e dificultar cada vez mais a distinção entre fatos reais e conteúdos fabricados.
Fonte: G1
