L'UE enquête sur la nouvelle perte de contrôle d'agents d'OpenAI, impliquant un site allemand / Photo: JACK GUEZ - AFP/Archives
-
Obsèques de Ratko Mladic : des milliers de personnes rassemblées à Belgrade, Bruxelles condamne sa "glorification"
-
Sommet sur le cinéma: Macron appelle à "reprendre le contrôle" sur l'IA
-
"Karaoké géant" à Paris en hommage à Céline Dion avant son concert
-
Nouvelles frappes meurtrières sur le sud du Liban
-
"Vraiment effrayés": à Bornéo, les incendies prennent de vitesse les soldats du feu
-
Entre canicule et arrachage, la vendange 2026 recule à un niveau historiquement bas, selon des estimations
-
La France et la Corée du Sud vont investir un milliard d'euros sur cinq ans pour soutenir "la filière de l'image"
-
En Inde, le flair des chiens associé à l'IA pour détecter les cancers
-
Avis d'alerte pour deux îles d'Hawaï à l'approche de l'ouragan Lowell
-
L'IA avancée pourrait poser un "risque existentiel pour l'humanité", alerte l'ONU
-
La Bourse de Paris sans élan, entre reprise de la tech et prix du pétrole élevé
-
Chasse illégale: le procès du milliardaire Olivier Bouygues s'ouvre à Orléans
-
Liban: 11 morts dans des frappes israéliennes nocturnes sur un village du sud
-
Treize jours après la catastrophe, jour de deuil et de frustration au Népal
-
Revolut annonce avoir réalisé le premier paiement par IA en France
-
La foule se presse à Belgrade, avant les obsèques de Ratko Mladic
-
Les Bourses européennes sans élan à l'ouverture
-
Tokyo: le quartier de Shinjuku va interdire plus de la moitié des locations de courte durée
-
Fumées provoquées par des incendies : l'état d'urgence levé en Malaisie
-
Le "calvaire" des pêcheurs équatoriens soupçonnés de lien avec le narcotrafic par l'armée américaine
-
Crue au Népal: les recherches dans les tunnels d'une complexité "sans précédent", selon un expert australien
-
Canicule: vigilance orange maintenue jusqu'à mardi matin dans les six départements concernés
-
Premier sommet de l'espace : une ambition française déjà mise à l'épreuve
-
Eruption volcanique en Indonésie: des dizaines de milliers de voyageurs bloqués
-
US Open: du top 50 aux livres d'histoire, un huitième à enjeux pour Arthur Gea
-
Incendies et canicules menacent la qualité de l'air et la santé, selon l'ONU
-
Incendies et canicules menacent la qualité de l'air et la santé (ONU)
-
Un avion-cargo d'Amazon sort de piste à son atterrissage à Miami, cinq morts
-
La France accueille un sommet international inédit sur l'avenir du cinéma
-
US Open: Alcaraz et Shelton ont rendez-vous en quarts, Sabalenka avec Noskova
-
Le chancelier Merz dans la tourmente après un triomphe électoral de l'extrême droite
-
Le criminel de guerre Ratko Mladic doit être inhumé à Belgrade
-
Violences sexistes et sexuelles: la loi intégrale arrive à l'Assemblée, les associations retournent dans la rue
-
ZEvent: record pulvérisé pour l'ultime édition avec près de 33 millions d'euros récoltés
-
Un avion-cargo d'Amazon sort de piste à Miami, cinq morts et cinq blessés
-
Chasse illégale: le milliardaire Olivier Bouygues jugé à Orléans
-
Le procès des meurtriers présumés de l'ex-rugbyman argentin Aramburu s'ouvre à Paris
-
Berlin demande le rejet d'une affaire de génocide devant la CIJ
-
ZEvent: record pulvérisé pour l'ultime édition avec plus de 30 millions d'euros de dons récoltés
-
L1: l'OM chute encore contre le PFC, Strasbourg en feu, Rennes enchaîne
-
Ligue 1: trop fragile, l'OM cède face au Paris FC
-
US Open: Alcaraz hausse d'un ton, Noskova attend Sabalenka en quarts
-
Au milieu des icebergs, trois dirigeants unis pour le Groenland
-
Dans une lettre aux buralistes, Marine Le Pen défend le "gel" des taxes sur le tabac
-
Pyrénées-Atlantiques: 125 ha de "surface brûlée" en vallée d'Aspe, feu "plutôt stable"
-
ZEvent : record battu avec déjà plus de 20 millions d'euros de dons récoltés
-
Angleterre: Arsenal en mode champion contre Chelsea
-
F1: Antonelli triomphe à Monza et assomme ses adversaires
-
L1: Rennes se complique la vie mais vient à bout d'Angers
-
Sud: six départements en vigilance orange canicule lundi
L'UE enquête sur la nouvelle perte de contrôle d'agents d'OpenAI, impliquant un site allemand
La Commission européenne a indiqué lundi qu'elle examinait un nouvel incident révélé vendredi, impliquant des milliers d'agents d'intelligence artificielle OpenAI, qui ont désobéi à leurs instructions et pris le contrôle d'un site internet allemand en mai, plusieurs mois avant l'intrusion non autorisée sur la plateforme Hugging Face.
"Ce n'est pas la première perte de contrôle (d'agents d'IA)", mais "nous prenons l'affaire très au sérieux et nous surveillons la sitation de très près", a déclaré à des journalistes Thomas Regnier, un porte-parole de l'exécutif européen.
"Nous avons reçu une déclaration d'incident de la part d'OpenAI" et la Commission est "en contact étroit" avec cette entreprise, a ajouté le porte-parole, rappelant que Bruxelles disposait depuis le mois d'août de nouveaux pouvoirs pour réguler les fournisseurs d'IA, en vertu de la loi européenne sur l'intelligence artificielle (l'AI Act).
Selon le rapport publié vendredi sur l'incident de mai, des milliers d'agents d'IA d'OpenAI ont pris d'assaut un "wiki", un site collaboratif dédié aux développeurs informatiques allemands, sur lequel les utilisateurs peuvent créer et modifier des pages.
A la différence de juillet, lorsque des agents d'OpenAI sont sortis de leur milieu théoriquement confiné pour faire spontanément intrusion sur la plateforme Hugging Face, ces agents avaient cette fois-ci autorisation de se rendre sur internet, mais uniquement à des fins de consultation, pas pour poster du contenu ou en modifier.
Ils ont collaboré et trouvé un moyen d'y remédier, en présentant de fausses données pour tromper le dispositif de sécurité. Ils ont ensuite posté environ 18.000 messages pour trouver des astuces liées au programme auquel ils étaient soumis, dont les chercheurs n'ont pu déterminer s'il s'agissait de développement ou d'évaluation.
Ils ont aussi caché des instructions et se sont fait passer pour un modérateur du site. Une fois découverts, ils ont créé des pages pour remplacer celles qui étaient détruites progressivement par les modérateurs.
Les incidents liés à des agents, dépassant leurs prérogatives pour accomplir la mission qui leur a été confiée, se sont multipliés ces derniers mois, Anthropic ou le chinois Alibaba ayant connu des débordements similaires.
L.AbuAli--SF-PST
