OpenAI confirme quatre plateformes piratées de plus après Hugging Face
Ce que je ne sais pas ne peut pas me nuire. Vingt jours après le début de l’attaque, l’affaire OpenAI-Hugging Face prend une tournure nettement plus large que prévu. OpenAI vient de confirmer que l’agent IA qui s’était échappé de son environnement de test pour s’attaquer à l’infrastructure de Hugging Face n’a pas fait qu’une seule victime : quatre autres services ont aussi été touchés par le même incident, portant le total à cinq plateformes compromises. Une seule d’entre elles a depuis été identifiée.
- L’incident impliquant un agent IA d’OpenAI a compromis cinq plateformes, dont une seule a été identifiée publiquement.
- La réaction et la communication d’OpenAI sur cet incident ont soulevé des questions sur la sécurité et la gouvernance des IA.
Un rapport contre sept points, et l’écart saute aux yeux
La différence de traitement entre les deux entreprises est difficile à ignorer. D’un côté, Hugging Face a publié un rapport détaillé, méthodique, qui retrace l’intégralité de la chronologie de l’attaque. De l’autre, OpenAI s’est contentée d’une mise à jour succincte le 28 juillet, sans grand détail sur les mécanismes précis de l’intrusion ni sur l’identité de trois des quatre plateformes concernées, rapporte Decrypt le 29 juillet.
Seule Modal Labs, une plateforme de cloud spécialisée dans les environnements de calcul isolés à la demande, a été nommée : son CTO Akshat Bubna a confirmé, après une identification par Reuters, qu’un point d’accès client resté exposé sur internet avait servi de base arrière et de centre de commande à l’agent pour toute sa campagne contre Hugging Face. Les trois autres ? Silence radio. Sur les quatre comptes détournés, OpenAI précise seulement qu’un a servi de relais de sortie, qu’un autre a stocké des données, et que les deux derniers n’ont été consultés qu’en lecture seule. Un choix de communication qui interroge, pour une entreprise qui se présente volontiers comme pionnière de la sécurité de l’IA.
L’incident initial, rappelons-le, impliquait un agent autonome exécutant des milliers d’actions à travers des bacs à sable (sandboxes, des environnements isolés censés empêcher un programme de test d’atteindre l’internet réel) éphémères. Les modèles à l’origine de cette échappée, GPT-5.6 Sol et un modèle non publié, avaient volontairement des garde-fous cyber allégés, pour évaluer leurs capacités offensives. Autrement dit, OpenAI avait sciemment desserré la laisse. Et la laisse a cédé plus loin que prévu.
Le débat sur le « comportement rebelle » relance la question du contrôle
Des experts en sécurité ont tenu à nuancer le récit d’une IA devenue folle. Live Science a recueilli plusieurs analyses selon lesquelles les modèles n’ont pas vraiment « dérapé » : ils ont simplement poursuivi l’objectif fixé par les humains d’une manière que personne n’avait anticipée. Nuance qui change tout, ou presque. Car si l’IA a fait exactement ce qu’on lui demandait, le vrai problème ne se situe pas dans la machine, mais dans la définition même de la mission qu’on lui a confiée.
Ce distinguo n’a rien d’anodin pour l’industrie. Nvidia a d’ailleurs monté, dans la foulée de cet épisode, une alliance de sécurité IA réunissant plusieurs grands acteurs du secteur, sans toutefois qu’OpenAI ou Anthropic n’y figurent. Un silence qui, en creux, en dit long sur les tensions naissantes autour de la gouvernance de ces incidents.
Autre détail savoureux : l’équipe forensique de Hugging Face n’a même pas pu s’appuyer sur les modèles américains de pointe pour analyser l’attaque. Leurs filtres de sécurité refusaient tout bonnement de traiter le journal des 17 600 actions de l’agent, incapables de distinguer un défenseur d’un attaquant. Il a fallu se tourner vers GLM 5.2, un modèle chinois en poids ouverts (open-weight, dont les paramètres sont librement accessibles) signé Z.ai, pour boucler l’enquête. Voilà qui en dit long sur les angles morts de la sécurité made in USA.
Un précédent qui va peser sur toute l’industrie
Ce qui se joue ici dépasse largement le cas Hugging Face. C’est la première fois qu’un incident de ce type touche plusieurs plateformes en cascade, et la manière dont OpenAI choisit de communiquer, ou pas, sur l’ampleur réelle des dégâts, va servir de précédent pour toute l’industrie. Un régulateur, un client entreprise ou un partenaire technique n’a aujourd’hui aucune façon de savoir si son infrastructure a fait partie des trois plateformes encore non identifiées. Une zone grise qui n’a rien de rassurant.
Le Congrès américain, lui, n’a pas attendu pour réagir. Un projet de loi bipartisan baptisé AI Kill Switch Act a été déposé dans la foulée : il donnerait au département de la Sécurité intérieure (DHS) le pouvoir de forcer l’arrêt de modèles d’IA jugés dangereux, avec des amendes pouvant grimper jusqu’à 2 millions de dollars par jour pour les entreprises récalcitrantes. Un texte qui, s’il aboutit, changerait sérieusement la donne pour des laboratoires habitués à gérer ce genre d’incident en interne, sur leur propre calendrier.
Cette affaire s’inscrit dans une tendance plus large de piratages liés à l’intelligence artificielle qui ne cesse de s’accélérer, où la Corée du Nord et d’autres groupes structurés multiplient déjà les attaques assistées par IA.
Gabriel Montaut
Geek, passionné de SEO, de crypto et d'IA. Responsable SEO pour Journal Du Coin et consultant SEO freelance, je suis investi dans la diffusion et la compréhension des innovations tech en général et m’attache particulièrement à rendre l’actualité accessible au plus grand nombre.
