Sawt Falasteen - Désinformation et élections: Meta tempère la menace de l'IA générative

"Les tactiques fondées sur l'IA générative semblent ne (leur) apporter qu'un gain marginal de productivité", a déclaré David Agranovich, un directeur des équipes de cybersécurité de Meta.

"Jusqu'à présent, elles n'ont pas entravé notre capacité à contrer leurs opérations", a-t-il ajouté lors de la présentation d'un rapport trimestriel du groupe américain.

Meta fait face à une forte pression des autorités et d'ONG pour éliminer la désinformation de ses plateformes depuis le scandale de Cambridge Analytica, une firme de marketing qui avait piloté des opérations majeures sur Facebook en 2016, pour influencer la présidentielle américaine et le scrutin britannique sur la sortie de l'Union européenne.

La popularisation de l'IA générative nourrit les inquiétudes quant à la possibilité pour cette nouvelle technologie de rendre de telles opérations encore plus dangereuses, puisqu'elle permet à chacun de créer facilement, et rapidement, des contenus de bonne facture (messages, images, fausses photographies ou vidéos, etc).

De fait, les diverses entités spécialisées dans les campagnes de propagande y ont bien recours.

Mais les images produites par "Doppelganger", une campagne menée depuis la Russie depuis deux ans pour affaiblir le soutien à l'Ukraine, "ne semblent pas faire l'objet d'un contrôle qualité", a souligné David Agranovich.

"Il y a des mains qui se fondent les unes dans les autres ou des panneaux avec du charabia illisible dessus", a-t-il détaillé. "Dans de nombreux cas, la clarté du message semble secondaire par rapport à la stratégie d'envoyer plein de choses en espérant que ça prenne quelque part."

Et de toute façon, les équipes de Meta dédiées à la détection de ces opérations d'influence traquent avant tout des "comportements inauthentiques et coordonnés", montrant qu'il ne s'agit pas d'utilisateurs habituels.

"L'utilisation de l'IA générative pour créer du contenu ou des photos de profil ne nous a pas empêchés, jusqu'à présent, de continuer à surveiller et détecter ces opérations", a-t-il expliqué.

A l'approche de l'élection américaine de novembre, Meta s'attend à ce que les groupes affiliés au gouvernement russe renforcent leurs actions pour tenter d'influencer la campagne.

Le groupe californien a insisté sur la nécessité de coopérer avec les autorités, avec les chercheurs mais aussi avec les autres entreprises technologiques.

Même si cela s'avère plus compliqué avec X, anciennement Twitter, depuis le rachat de la plateforme par Elon Musk fin 2022.

"L'entreprise est encore en pleine transition", a estimé David Agranovich. "De nombreuses personnes avec qui nous avons travaillé par le passé sont parties. Nous devons attendre de voir ce qu'ils feront (...) des informations que nous partageons."

I.Matar--SF-PST