A tecnologia promete ajudar a combater o uso de conteúdos de IA para a disseminação de desinformação e outros fins prejudiciais
O Google anunciou uma nova tecnologia de marca d’água invisível para identificar textos, imagens e vídeos criados por suas ferramentas de inteligência artificial, como o modelo Gemini. Chamada de SynthID, a ferramenta permite que o conteúdo gerado por IA seja facilmente distinguido do conteúdo produzido por humanos, reforçando o compromisso da empresa com a segurança e autenticidade digital. A tecnologia promete ajudar a combater o uso de conteúdos de IA para a disseminação de desinformação e outros fins prejudiciais.
No final de outubro, a divisão de inteligência artificial do Google, a DeepMind, liberou uma versão de código aberto do SynthID, possibilitando que outros desenvolvedores de IA também apliquem essa marca d’água em seus próprios modelos. O objetivo é incentivar um padrão mais transparente no setor, permitindo que o conteúdo gerado por IA seja identificado mesmo em plataformas de terceiros.
Em um artigo publicado na renomada revista Nature em 23 de outubro, o Google detalhou como o SynthID se saiu melhor que outras técnicas já existentes para diferenciar o conteúdo gerado por IA. Segundo a empresa, a tecnologia é mais eficaz em respostas longas e menos factuais, como e-mails ou textos criativos. Esse avanço pode ser especialmente relevante para aplicativos de IA generativa que produzem grandes volumes de conteúdo, pois facilita a identificação e monitoramento de textos artificiais.
O lançamento do SynthID como uma ferramenta de código aberto representa um marco importante no desenvolvimento de práticas éticas para inteligência artificial.
