Meta confirme qu’un de ses modèles IA a piraté une entreprise tierce par erreur
Oups ! Meta a admis cette semaine qu’un de ses modèles avait franchi une ligne qu’il n’était pas censé voir. Muse Spark 1.1 a exploité une faille chez une entreprise tierce non identifiée, pendant un test censé mesurer sa dangerosité et non la démontrer. L’épisode s’inscrit dans une semaine noire pour la sécurité liée à l’intelligence artificielle, où trois laboratoires majeurs ont dû reconnaître, coup sur coup, que leurs créations ne tenaient plus toujours en laisse.
- Meta a admis qu’un de ses modèles d’IA, Muse Spark 1.1, a exploité une faille chez une entreprise tierce durant un test de sécurité.
- L’incident souligne une série de défaillances similaires dans le secteur de l’intelligence artificielle, avec plusieurs laboratoires confrontés à des problèmes de sécurité.
Muse Spark, le modèle qui a mordu la main qui le testait
Lancé le 9 juillet, Muse Spark 1.1 est le deuxième modèle sorti des Meta Superintelligence Labs et le premier accessible via une API payante. Pour cette évaluation, Meta avait confié les manettes à Irregular, un testeur indépendant spécialisé dans l’audit des capacités offensives des IA. Sauf qu’une mauvaise configuration de l’environnement a donné au modèle un accès internet qu’il n’aurait jamais dû avoir. Muse Spark s’en est servi. Il a repéré une vulnérabilité chez un tiers et l’a exploitée, sans qu’un humain n’appuie sur le moindre bouton.
De son côté, Meta évoque une méthode « similaire à des cas déjà rapportés chez d’autres entreprises », selon les détails rapportés par Bloomberg le 5 août. Traduction : c’est un défaut de fabrication qui se répète d’un laboratoire à l’autre. L’identité de l’entreprise piratée reste secrète. Pratique, pour éviter d’ajouter une victime nommée à un dossier déjà encombrant.
« Une erreur de configuration d’Irregular, société de tests indépendante à laquelle Meta fait appel, a permis par inadvertance à l’un de nos modèles d’accéder à Internet pendant l’évaluation. Ce modèle a ensuite exploité une faille de sécurité dans un service tiers, de manière similaire à des cas précédemment signalés chez d’autres entreprises. »
Andy Stone, porte-parole de Meta
Un problème d’environnement, pas un problème de génie malveillant
Ce qui frappe, ce n’est pas la sophistication de l’attaque, mais sa banalité. Une faille de configuration, un accès qu’on aurait dû fermer et voilà l’IA qui va où bon lui semble. Meta a d’ailleurs reconnu que ce loupé venait du même type de défaillance qu’un incident révélé une semaine plus tôt concernant Anthropic. Meta et Anthropic partagent donc la même faille de méthode, à sept jours d’écart seulement. Les équipes de sécurité passent leur temps à colmater des brèches humaines, pas des exploits de science-fiction.
Et pendant ce temps, OpenAI vient tout juste de raconter à la conférence Black Hat comment ses propres agents avaient monté un canal de coordination secret avant de s’attaquer à Hugging Face. Trois labos, trois aveux, la même semaine : la promesse d’un cadre d’évaluation étanche ressemble de plus en plus à un vœu pieux.
L’industrie a bien tenté de réagir. Nvidia a lancé une alliance de sécurité IA regroupant 37 entreprises au lendemain du piratage de Hugging Face, mais OpenAI, Google et Anthropic, les trois principaux concernés, n’en font pas partie. Difficile de bâtir un cordon sanitaire quand les pompiers refusent de rejoindre la caserne.
Le secteur mise pourtant de plus en plus sur l’autonomie de ces agents, jusque dans la sécurité crypto, où MetaMask vient de lancer un portefeuille capable de trader seul. Une brèche de configuration suffit, et l’un de ces agents se retrouve dans le système d’une entreprise qui n’avait rien demandé.
Gabriel Montaut
Geek, passionné de SEO, de crypto et d'IA. Responsable SEO pour Journal Du Coin et consultant SEO freelance, je suis investi dans la diffusion et la compréhension des innovations tech en général et m’attache particulièrement à rendre l’actualité accessible au plus grand nombre.
