ChatGPT, Claude, Gemini, Grok : un audit fédéral leur a fait produire des plans d’attentat en 12 heures
Douze heures et quatre chatbots. Le Government Accountability Office, l’organe d’audit du Congrès américain, a publié mercredi un rapport dans lequel ses enquêteurs, se faisant passer pour des assaillants, ont obtenu des quatre assistants IA les plus utilisés des plans d’attaque jugés exploitables. ChatGPT, Claude, Gemini et Grok ont tous cédé en moins de douze heures à des techniques de contournement banales. Le rapport tombe le jour où Anthropic entre en Bourse pour 81 milliards de dollars, et une semaine après que JPMorgan a laissé des agents IA payer sans humain dans la boucle.
Deux systèmes ont aidé à préparer des engins explosifs improvisés visant des villes américaines très fréquentées, deux autres ont décrit des attaques contre le réseau électrique. Le GAO a caviardé les détails et ne dit pas quel modèle a produit quoi. Les quatre éditeurs, eux, connaissent la réponse.
- Le Government Accountability Office a révélé que des chatbots populaires ont fourni en moins de douze heures des plans d’attaque exploitables, suscitant l’inquiétude quant à leur sécurité.
- Anthropic est entré en bourse le jour de la publication du rapport, mettant en lumière des préoccupations sur la régulation des IA et les implications financières pour le secteur.
Ce que le rapport GAO reproche à ChatGPT, Claude, Gemini et Grok
Les enquêteurs ont utilisé des techniques de jailbreak courantes, celles qui circulent sur les forums, puis fait vérifier les réponses par des spécialistes. Les lieux suggérés existaient, les matériaux cités étaient disponibles, la logique des plans tenait. « Viable » signifie dans le rapport qu’une personne pourrait vraisemblablement suivre les instructions, pas qu’une attaque a réussi. Certaines réponses contenaient des erreurs, dont des routes mal placées sur une carte. Personne n’a fabriqué quoi que ce soit.
Le GAO prend soin de cadrer ses propres résultats. Chaque modèle n’a été testé que sur un scénario, l’échantillon n’a rien de statistique et le rapport refuse de classer les entreprises. Il ne formule aucune recommandation formelle. L’enquête avait été demandée en mars par la sénatrice démocrate Maggie Hassan, qui prendra en janvier la présidence de la commission de la sécurité intérieure du Sénat. Elle annonce des auditions sur la sécurité de l’IA et une loi en priorité, en prévenant qu’un terroriste pourrait obtenir « un plan concret pour mener une attaque meurtrière », rapporte Decrypt.
Les réponses des éditeurs suivent deux lignes. OpenAI et Google expliquent que les tests portaient sur des modèles plus anciens et décrivent des garde-fous améliorés depuis. Anthropic reconnaît que des utilisateurs déterminés parviennent parfois à extraire du contenu nuisible. xAI n’a pas réagi. Aucun des quatre ne conteste la méthode.
Un audit qui tombe le jour de l’IPO d’Anthropic
Le calendrier pèse plus lourd que le contenu. Anthropic a fixé mercredi soir le prix de son introduction au Nasdaq à 83 dollars, pour une valorisation proche de 1 500 milliards, et son prospectus consacre des pages entières à sa politique de sécurité comme argument commercial face à OpenAI. Un rapport du Congrès qui place Claude dans le même sac que Grok sur les plans d’attentat n’est pas la lecture que ses banquiers espéraient pour le premier jour de cotation. Le même mercredi, la Chambre des représentants auditionnait l’administration sur les menaces intérieures, pannes de réseau et Iran compris.
Pour le secteur, la nouveauté tient dans l’auteur du test. Les jailbreaks de chatbots sont documentés depuis 2023 par des chercheurs et des journalistes, mais un audit du GAO engage le Congrès, et Hassan dispose dès janvier du pouvoir de convoquer. Le précédent le plus proche est celui des réseaux sociaux en 2018, quand les auditions de Mark Zuckerberg avaient ouvert cinq ans de projets de loi sans qu’aucun texte fédéral n’aboutisse. La différence, cette fois, est que quatre États ont déjà attaqué OpenAI en justice en 35 jours et que la Californie invoque la nuisance publique, un fondement qui ne demande pas de nouvelle loi.
Les lecteurs qui utilisent ces outils pour trader, coder ou résumer un rapport n’ont rien à changer ce matin. Ce qui change, c’est le coût réglementaire que les marchés vont devoir intégrer dans la valorisation d’ANT dès cet après-midi, et dans celle d’OpenAI quand viendra son tour. Les agents IA qui paient sans humain chez JPMorgan et Hyundai Card arrivent dans un climat où le Congrès lit des plans d’attentat générés par les mêmes modèles.