Sawt Falasteen - Le cerveau en surchauffe, ou quand l'IA submerge l'humain

Les consultants du cabinet Boston Consulting Group (BCG) ont donné un nom au phénomène, le "AI brain fry", le cerveau cuit par l'IA, ou "la fatigue mentale liée à l'utilisation ou la supervision excessives d'outils d'intelligence artificielle, au-delà de nos capacités cognitives".

Après la révolution ChatGPT, en 2022, est arrivée cette année celle des agents IA, qui peuvent effectuer une multitude de tâches sur demande de l'usager, devenu d'un seul coup chef d'orchestre autant que producteur.

"Les gens qui font des burn-out ne font pas qu'utiliser l'IA. Ils créent 100 agents qu'ils doivent gérer en continu", a récemment écrit sur X Tim Norton, du cabinet de conseil en intégration d'intelligence artificielle nouvreLabs.

Beaucoup, dont le BCG, se refusent néanmoins à utiliser le terme burn-out, qui correspond souvent à un état de détresse associé à une perte de motivation. Leur étude auprès de 1.488 professionnels aux Etats-Unis a ainsi montré une baisse du taux de burn-out quand l'IA prend en charge des tâches répétitives.

"C'est un nouveau type de charge mentale", suggère à l'AFP Ben Wigler, cofondateur de la start-up LoveMind AI, qui travaille sur les interactions entre humains et IA. "Avec ces modèles (d'IA), il faut faire du baby-sitting."

Pour l'instant, le "brain fry" se manifeste surtout chez les développeurs informatiques, la programmation étant l'application la plus évidente pour l'IA et ses agents.

"L'ironie cruelle est que le code généré par IA nécessite un examen plus précautionneux que celui écrit par des humains", a décrit l'ingénieur informatique Siddhant Khare sur son blog.

Selon l'étude de BCG, les salariés victimes de "brain fry" font 39% d'erreurs majeures supplémentaires.

"S'en remettre à des centaines de lignes de code écrites par de l'IA, c'est vraiment flippant, parce qu'il y a un risque de failles de sécurité ou simplement de ne pas comprendre tout le programme", abonde Adam Mackintosh, également programmeur dans une entreprise canadienne.

D'autant que, rappelle Ben Wigler, l'activation d'agents coûte très cher en puissance de calcul louée par les fournisseurs d'informatique à distance (cloud). "Si un modèle comprend mal quelque chose (une instruction)" et se lance dans une mission, explique-t-il, "c'est de l'argent jeté par la fenêtre".

- "Irritable" -

Il dit aussi céder parfois à la tentation d'aller toujours plus loin, à en perdre la notion du temps.

"Beaucoup de créateurs d'entreprises travaillent tard le soir", et "quand vous avez de la productivité à cette échelle (grâce à l'IA), cela incite à rester encore plus tard", dit l'entrepreneur, qui parle de journées finies à 2 ou 3 heures du matin.

Adam Mackintosh se souvient avoir passé 15 heures d'affilée à la mise au point d'une application, avec 25.000 lignes de code à l'arrivée.

"A la fin, je ne pouvais plus coder", raconte-t-il. "J'étais irritable et je ne voulais pas répondre aux questions qu'on me posait sur ma journée."

Un musicien et professeur, qui préfère garder l'anonymat, confesse avoir du mal à décrocher.

"Au lieu de mettre mon cerveau sur pause et de regarder une série à la télé", dit-il, "je vais finir ma soirée à essayer différentes choses avec l'IA."

Il est à noter que toutes les personnes interrogées par l'AFP voient dans l'apport de l'IA un solde nettement positif, malgré les mauvais points.

Dans son étude publiée début mars dans la Harvard Business Review, le BCG recommande à l'encadrement d'une entreprise de fixer des limites claires à l'utilisation et à la supervision pour un employé donné.

"Le fait de prendre soin de soi n'est pas vraiment une valeur qu'on retrouve dans les entreprises américaines", constate Ben Wigler, "donc je suis très sceptique sur le fait que (cette hausse de productivité) soit une bonne chose ou produise un résultat de qualité à long terme."

T.Samara--SF-PST