“Ela não existe, mas paga meu cartão todo mês” e “Tenho um plano infalível para o milhão” são frases presentes em tutoriais que circulam nas redes sociais e ajudam a revelar um mercado que cresce rapidamente no Brasil e no mundo: o de avatares criados por inteligência artificial (IA).
Embora sejam personagens virtuais, esses avatares podem ter aparência extremamente realista e conquistar milhares de seguidores no TikTok, YouTube e Instagram. Eles são utilizados como influenciadores, vendedores e até supostos especialistas. A partir disso, os responsáveis pelos perfis conseguem gerar receita com monetização de vídeos, comissões de vendas, divulgação de produtos digitais e até a negociação das próprias contas.
Diferentemente dos chatbots, os chamados influenciadores de IA simulam pessoas reais em vídeos, transmissões ao vivo e anúncios. Em alguns casos, chegam a divulgar produtos de saúde, tratamentos sem comprovação científica e orientações que podem colocar usuários em risco.
Segundo Fernando Ferreira, pesquisador do NetLab, da Universidade Federal do Rio de Janeiro (UFRJ), e doutor em inteligência artificial, a estratégia consiste em transformar a atenção do público em dinheiro. Os algoritmos das plataformas ajudam a direcionar os conteúdos para pessoas interessadas em determinados assuntos ou que buscam respostas para problemas específicos.
Com ferramentas de automação cada vez mais acessíveis, a produção desses conteúdos também ganhou escala.
“Antes a automação era só um ato de curtir, compartilhar. Agora pode dar voz, pode dar imagem. Isso é uma coisa mais personalizada e mais difícil ainda do usuário conseguir identificar que aquilo é realmente uma campanha”, explica Ferreira.
Da saúde ao entretenimento
Levantamentos da organização Ctrl Z identificaram avatares atuando em diferentes nichos, desde conteúdos históricos e infantis até histórias apelativas e narrativas criadas para despertar emoções.
Para Luã Cruz, diretor de litigância da organização, o ponto em comum é justamente o uso de sentimentos como medo, curiosidade e esperança para aumentar o alcance dos conteúdos.
Na área da saúde, por exemplo, algumas publicações utilizam o senso de urgência para incentivar o compartilhamento e convencer usuários a seguir determinadas orientações.
A produção também pode ser feita em massa. Um mesmo roteiro pode ser traduzido para diferentes idiomas e interpretado por dezenas de avatares, permitindo que o conteúdo seja direcionado a públicos de diversos países.
No YouTube, essa estratégia pode ser usada para gerar grandes volumes de vídeos e alcançar os requisitos necessários para monetização. Parte desse material é classificada como “slop”, termo utilizado para descrever conteúdos produzidos em grande escala e considerados de baixa qualidade ou com informações incorretas.
Depois de alcançar determinado número de seguidores e visualizações, um canal pode mudar de nicho, passar a divulgar produtos digitais ou até ser negociado para outras finalidades.
Risco maior na área da saúde
Especialistas alertam que os efeitos podem ser mais graves quando os avatares passam a oferecer supostos tratamentos médicos.
Segundo a Ctrl Z, há relatos de usuários que afirmam seguir recomendações apresentadas por esses personagens e até abandonar tratamentos convencionais.
O avanço das ferramentas de IA também tornou mais difícil identificar conteúdos falsos. Erros que antes denunciavam vídeos sintéticos, como mãos deformadas, vozes artificiais e movimentos pouco naturais, estão cada vez menos evidentes.
Para os pesquisadores, não é razoável transferir exclusivamente ao usuário a responsabilidade de descobrir se determinado conteúdo é real ou produzido artificialmente.
Eles defendem que as plataformas adotem mecanismos mais claros de identificação e sinalização de conteúdos gerados por IA, especialmente quando há monetização envolvida.
Possíveis crimes
O uso de inteligência artificial também não elimina a responsabilidade de quem produz ou divulga conteúdos fraudulentos.
A advogada e especialista em cibersegurança Gisele Kauer explica que práticas envolvendo avatares sintéticos podem se enquadrar em crimes já previstos na legislação brasileira, dependendo da conduta, como estelionato, fraude, exercício ilegal da medicina e falsidade ideológica.
“O crime continua sendo crime independente do meio utilizado”, afirma.
Além dos riscos financeiros e jurídicos, pesquisadores também discutem os efeitos dos avatares sobre a percepção da realidade e os relacionamentos no ambiente digital.
Diogo Cortiz, professor da PUC-SP e pesquisador de intimidade artificial, afirma que personagens criados por IA podem estabelecer padrões estéticos e relações afetivas difíceis de alcançar na vida real.
Segundo ele, a tecnologia permite criar realidades virtuais extremamente convincentes, ampliando fenômenos que já existiam nas redes sociais, como a comparação com padrões de beleza produzidos digitalmente.
O que dizem as plataformas
O YouTube afirma que conteúdos produzidos por inteligência artificial também precisam seguir as diretrizes da plataforma, incluindo regras contra desinformação médica. A empresa diz exigir que os criadores informem quando utilizam mídia sintética ou alterada de forma fotorrealista e afirma utilizar tecnologia e análise humana para identificar conteúdos que deveriam ter sido sinalizados.
A plataforma também informa que conteúdos que violam suas regras podem ser removidos e que reincidências podem resultar na suspensão de canais do programa de parcerias.
O TikTok também afirma exigir a identificação de conteúdos gerados por IA e proibir materiais que possam induzir o público ao erro. A plataforma disponibiliza rótulos para informar quando um conteúdo foi criado com inteligência artificial e prevê punições para contas que violem suas regras de monetização.
A Meta, responsável pelo Instagram e pelo Facebook, informou que não comentaria o assunto.
Fonte: G1
