Sawt Falasteen - Moda dos vídeos falsos gerados por IA alimenta o sexismo na internet

Estes conteúdos, criados maciçamente com ferramentas de Inteligência Artificial (IA) de baixa qualidade, com frequência desbancam as publicações autênticas e borram a linha entre a realidade e a ficção.

Esta tendência deu lugar a uma indústria artesanal de influenciadores que produzem conteúdo sexualizado em série, motivados por programas de incentivos às plataformas que recompensam com dinheiro os produtores virais.

Muitos clipes gerados por IA, repletos de humor vulgar, sugerem mostrar entrevistadoras com pouca roupa nas ruas da Índia e do Reino Unido.

A equipe de checagem da AFP encontrou centenas de vídeos deste tipo no Instagram, muitos deles falados em híndi, que mostram os entrevistados fazendo comentários misóginos e sexistas com indiferença, às vezes chegando a agarrar as mulheres, enquanto uma multidão de homens ao fundo os observa boquiabertos ou rindo.

Estes vídeos foram reproduzidos dezenas de milhões de vezes.

Foram criados usando o gerador de IA Veo 3, da Google, conhecido por suas imagens hiper-realistas, informou a empresa americana de cibersegurança GetReal Security em uma análise compartilhada com a AFP.

- Sexismo -

"A misoginia que geralmente se mantinha reservada a conversas de vestiário e grupos agora está se transmutando para imagens geradas por IA", disse à AFP Nirali Bhatia, psicóloga radicada na Índia, especializada no ciberespaço.

"Isso faz parte do dano de gênero mediado pela IA", acrescentou, ressaltando que a tendência está "alimentando o sexismo".

A tendência é que a internet agora está cada vez mais saturada com memes, vídeos e imagens geradas por IA, que disputam a atenção com - e ofuscam cada vez mais - o conteúdo autêntico.

"O conteúdo gerado por IA e qualquer tipo de conteúdo de IA não etiquetado corroem lentamente a pouca confiança restante no conteúdo visual", disse à AFP Emmanuelle Saliba, da GetReal Security.

O conteúdo misógino mais viral costuma se basear em imagens chocantes, como por exemplo vídeos no Instagram e no TikTok que, segundo a revista Wired, foram gerados usando o Veo 3 e retratam mulheres negras como primatas com pés grandes.

Vídeos em uma conta popular do TikTok enumeram, de forma debochada, o que algumas "garotas indomáveis" fariam por dinheiro.

As mulheres também são material para conteúdo sensacionalista impulsionado pela IA.

A checagem da AFP rastreou vídeos virais de uma falsa treinadora de animais chamada "Jessica Radcliffe" sendo atacada até a morte por uma orca durante um show ao vivo em um parque aquático. Nada aconteceu de verdade.

O curta se disseminou rapidamente através de plataformas como TikTok, Facebook e X, e gerou uma comoção global de usuários que acreditaram que a mulher do vídeo era real.

- "Irreal" -

No ano passado, Alexios Mantzarlis, diretor da Iniciativa de Segurança e Confiança da Cornell Tech, encontrou 900 contas no Instagram de "modelos" provavelmente geradas por IA, predominantemente femininas e no geral usando pouca roupa.

Estas contas armadilha acumularam no total 13 milhões de seguidores e publicaram mais de 200.000 imagens, monetizando o resultado ao redirecionar suas audiências para plataformas comerciais de troca de conteúdo.

Com a proliferação online das falsificações criadas por IA, "os números agora são inquestionavelmente muito maiores", disse Mantzarlis à AFP.

O conteúdo 'slop' (lixo virtual) financeiramente incentivado está se tornando cada vez mais difícil de controlar, pois os criadores recorrem à produção de vídeos com IA como trabalho ocasional.

Muitos criadores no YouTube e no TikTok oferecem cursos pagos sobre como monetizar material viral gerado por IA em plataformas, muitas das quais reduziram sua dependência em checadores de fatos humanos e diminuíram a moderação de conteúdo.

Algumas plataformas vêm tentando tomar medidas contra as contas que promovem conteúdo 'slop'. Recentemente, o YouTube assinalou que os criadores de conteúdo "não autêntico" e "produzido maciçamente" não seriam elegíveis para obter dinheiro.

"A IA não inventa a misoginia, simplesmente reflete e amplifica o que já existe", disse à AFP o consultor de IA, Divyendra Jadoun.

"Se as audiências recompensam este tipo de conteúdo com milhões de 'likes', os algoritmos e os criadores de IA continuarão a produzi-lo. A maior luta não é apenas tecnológica, é social e cultural", concluiu.

burs-ac/mm/dth/mr/nn/mvv/aa

O.Mousa--SF-PST