Sawt Falasteen - Un Brésil gangrené par la désinformation face au défi de réguler l'IA

Les plus grandes célébrités brésiliennes, le footballeur Neymar et la chanteuse Anitta, ont été récemment victimes de deepfake, leur image et leur voix manipulées ayant été utilisées dans des vidéos pour promouvoir un jeu d'argent en ligne.

Et le monde de la politique est loin d'être épargné, dans ce pays de 203 millions d'âmes qui compte plus de téléphones mobiles que d'habitants.

"Des montages vidéo peuvent être utilisés pour manipuler l'opinion publique, pour diffamer des individus ou pour interférer dans le processus démocratique", explique à l'AFP Ana Carolina da Hora, spécialiste en informatique de l'Université catholique PUC de Rio de Janeiro.

Fin 2023, la Police fédérale a identifié un montage audio circulant sur les réseaux sociaux dans lequel le maire de Manaus (nord), principale métropole de l'Amazonie brésilienne, semble insulter des enseignants.

D'autres cas similaires font l'objet d'enquêtes dans les Etats de Rio Grande do Sul (sud) et Sergipe (nord-est).

Le Tribunal supérieur électoral (TSE) a décidé d'agir: la semaine dernière, l'usage de deepfake a été formellement interdit pour la campagne électorale des municipales d'octobre.

Tout autre type d'utilisation de l'intelligence artificielle à des fins électorales doit être accompagnée d'une mention clairement identifiable par le public.

- Effet "anabolisant" -

Le TSE s'était déjà montré très ferme contre la désinformation en juin dernier, en déclarant l'ancien président d'extrême droite Jair Bolsonaro (2019-2022) inéligible pour avoir remis en cause sans preuve la fiabilité des urnes électroniques.

Pour les municipales, le président de cette haute cour chargée de veiller à la bonne marche des scrutins, Alexandre de Moraes, appelle à lutter contre les "milices numériques" pour qui l'intelligence artificielle a un effet "anabolisant", pouvant "changer le résultat d'une élection".

Une inquiétude partagée par le président de gauche Luiz Inacio Lula da Silva. "Le fait est que l'humanité est en train de devenir victime des algorithmes (...) et d'être manipulée par l'intelligence artificielle, comme ce n'était jamais arrivé auparavant", a-t-il affirmé la semaine dernière, lors d'un entretien à la chaîne RedeTV.

L'ONG Center for Countering Digital Hate (CCDH) a alerté mercredi sur les risques des outils de l'intelligence artificielle (IA) générative pour la démocratie, après avoir mené des tests montrant à quel point il est facile de créer de fausses images des principaux candidats à la présidentielle américaine.

Pour le président de la Cour suprême du Brésil, Luis Roberto Barroso, "la régulation est nécessaire, pour éviter que le mal ne domine une technologie aussi puissante".

"Mais il faut que cette régulation soit bien faite", a-t-il averti fin janvier, lors d'un discours devant la Cour inter-américaine des droits de l'Homme (CIDH).

- Risque de discrimination -

Le Parlement brésilien est également entré dans ce débat, avec notamment une proposition de loi du président du Sénat, Rodrigo Pacheco, portant sur la régulation de l'usage de l'intelligence artificielle dans tous les aspects de la vie sociale et économique du pays.

"Il n'y a pas de solution unique pour réguler l'intelligence artificielle", estime Bruno Bioni, directeur de Data Privacy Brasil, une association de protection des données et des droits numériques.

Selon lui, il faut une réponse adaptée à tous les secteurs, cette technologie pouvant être utilisée "aussi bien dans les télécommunications que dans la santé ou l'énergie électrique".

Autre enjeu de taille: les risques de discrimination liée à l'intelligence artificielle, dans un pays marqué par une grande diversité raciale, où plus de la moitié de la population est noire ou métisse.

Dans le domaine de la sécurité, par exemple, certains systèmes utilisant l'intelligence artificielle pour la reconnaissance faciale "manquent de précision et augmentent la discrimination", dénonce Bruno Bioni. Il cite notamment une grande quantité de personnes "emprisonnées illégalement, majoritairement des personnes noires".

Membre de la commission de spécialistes qui a participé à l'élaboration de la proposition de loi de Rodrigo Pacheco, qui devrait être analysée par le Sénat en avril, M. Bioni assure que le texte "est très attentif aux questions de discrimination, surtout celle qui a lieu sans qu'elle soit prévue intentionnellement par les programmateurs".

S.Barghouti--SF-PST