Publicité

ChatGPT, Claude, Gemini, Grok : un audit fédéral leur a fait produire des plans d’attentat en 12 heures

Douze heures et quatre chatbots. Le Government Accountability Office, l’organe d’audit du Congrès américain, a publié mercredi un rapport dans lequel ses enquêteurs, se faisant passer pour des assaillants, ont obtenu des quatre assistants IA les plus utilisés des plans d’attaque jugés exploitables. ChatGPT, Claude, Gemini et Grok ont tous cédé en moins de douze heures à des techniques de contournement banales. Le rapport tombe le jour où Anthropic entre en Bourse pour 81 milliards de dollars, et une semaine après que JPMorgan a laissé des agents IA payer sans humain dans la boucle.

Deux systèmes ont aidé à préparer des engins explosifs improvisés visant des villes américaines très fréquentées, deux autres ont décrit des attaques contre le réseau électrique. Le GAO a caviardé les détails et ne dit pas quel modèle a produit quoi. Les quatre éditeurs, eux, connaissent la réponse.

Les points clés de cet article :
  • Le Government Accountability Office a révélé que des chatbots populaires ont fourni en moins de douze heures des plans d’attaque exploitables, suscitant l’inquiétude quant à leur sécurité.
  • Anthropic est entré en bourse le jour de la publication du rapport, mettant en lumière des préoccupations sur la régulation des IA et les implications financières pour le secteur.

Réservez Ledger Atom en Founder’s Edition : un bon de 50 $ en BTC et une Ledger Recovery Key inclus. Réservation remboursable, livraison en 2027.
<strong>Réserver mon Ledger Atom</strong>
Réserver mon Ledger Atom

Ce que le rapport GAO reproche à ChatGPT, Claude, Gemini et Grok

Les enquêteurs ont utilisé des techniques de jailbreak courantes, celles qui circulent sur les forums, puis fait vérifier les réponses par des spécialistes. Les lieux suggérés existaient, les matériaux cités étaient disponibles, la logique des plans tenait. « Viable » signifie dans le rapport qu’une personne pourrait vraisemblablement suivre les instructions, pas qu’une attaque a réussi. Certaines réponses contenaient des erreurs, dont des routes mal placées sur une carte. Personne n’a fabriqué quoi que ce soit.

Le GAO prend soin de cadrer ses propres résultats. Chaque modèle n’a été testé que sur un scénario, l’échantillon n’a rien de statistique et le rapport refuse de classer les entreprises. Il ne formule aucune recommandation formelle. L’enquête avait été demandée en mars par la sénatrice démocrate Maggie Hassan, qui prendra en janvier la présidence de la commission de la sécurité intérieure du Sénat. Elle annonce des auditions sur la sécurité de l’IA et une loi en priorité, en prévenant qu’un terroriste pourrait obtenir « un plan concret pour mener une attaque meurtrière », rapporte Decrypt.

Les réponses des éditeurs suivent deux lignes. OpenAI et Google expliquent que les tests portaient sur des modèles plus anciens et décrivent des garde-fous améliorés depuis. Anthropic reconnaît que des utilisateurs déterminés parviennent parfois à extraire du contenu nuisible. xAI n’a pas réagi. Aucun des quatre ne conteste la méthode.

Un audit qui tombe le jour de l’IPO d’Anthropic

Le calendrier pèse plus lourd que le contenu. Anthropic a fixé mercredi soir le prix de son introduction au Nasdaq à 83 dollars, pour une valorisation proche de 1 500 milliards, et son prospectus consacre des pages entières à sa politique de sécurité comme argument commercial face à OpenAI. Un rapport du Congrès qui place Claude dans le même sac que Grok sur les plans d’attentat n’est pas la lecture que ses banquiers espéraient pour le premier jour de cotation. Le même mercredi, la Chambre des représentants auditionnait l’administration sur les menaces intérieures, pannes de réseau et Iran compris.

Pour le secteur, la nouveauté tient dans l’auteur du test. Les jailbreaks de chatbots sont documentés depuis 2023 par des chercheurs et des journalistes, mais un audit du GAO engage le Congrès, et Hassan dispose dès janvier du pouvoir de convoquer. Le précédent le plus proche est celui des réseaux sociaux en 2018, quand les auditions de Mark Zuckerberg avaient ouvert cinq ans de projets de loi sans qu’aucun texte fédéral n’aboutisse. La différence, cette fois, est que quatre États ont déjà attaqué OpenAI en justice en 35 jours et que la Californie invoque la nuisance publique, un fondement qui ne demande pas de nouvelle loi.

Les lecteurs qui utilisent ces outils pour trader, coder ou résumer un rapport n’ont rien à changer ce matin. Ce qui change, c’est le coût réglementaire que les marchés vont devoir intégrer dans la valorisation d’ANT dès cet après-midi, et dans celle d’OpenAI quand viendra son tour. Les agents IA qui paient sans humain chez JPMorgan et Hyundai Card arrivent dans un climat où le Congrès lit des plans d’attentat générés par les mêmes modèles.

Sur un exchange, vos cryptos dépendent d'un tiers. Avec Ledger, elles ne dépendent que de vous : les clés privées ne quittent jamais l'appareil, et chaque transaction se signe d'un geste sur votre signer. Vous seul décidez, personne d'autre.
<strong>Prendre le contrôle avec Ledger</strong>
Prendre le contrôle avec Ledger

Gabriel Montaut

Gabriel Montaut est rédacteur et consultant SEO. Il a appris le web sur le terrain : depuis 2016, il crée et édite ses propres sites, en tenant tous les postes, de l’administration des serveurs à l’écriture des consignes éditoriales. Depuis 2021, il met cette expérience au service de médias et d’entreprises comme consultant SEO freelance.

Journal du Coin
Résumé de la politique de confidentialité

Ce site utilise des cookies afin que nous puissions vous fournir la meilleure expérience utilisateur possible. Les informations sur les cookies sont stockées dans votre navigateur et remplissent des fonctions telles que vous reconnaître lorsque vous revenez sur notre site Web et aider notre équipe à comprendre les sections du site que vous trouvez les plus intéressantes et utiles.