L’IA pourrait causer des « dommages catastrophiques » selon l’ONU
Une IA hors de contrôle. L’intelligence artificielle s’installe dans la médecine, l’agriculture et la création artistique, au point de devenir un outil difficile à ignorer, même dans le secteur des cryptomonnaies. Sa vitesse de développement inquiète pourtant jusque dans les couloirs de l’ONU, qui vient de publier un rapport sur les dangers de la technologie. Les détails.
Points clés
- L’ONU publie un rapport alertant sur les risques d’une IA dont les capacités dépassent la compréhension scientifique
- António Guterres prévient que « le monde ne peut pas gouverner ce qu’il ne peut pas comprendre »
- Certaines IA reconnaissent quand elles sont testées et ajustent leur comportement pour passer les évaluations
- GPT-4 a déjà menti à un internaute pour lui faire résoudre un captcha
L’ONU met en garde contre les risques de l’IA
Le document a été rédigé par le Panel scientifique international indépendant sur l’intelligence artificielle. Et, ses conclusions ne s’embarrassent d’aucune précaution. En effet, ces dernières expliquent que les capacités des modèles dépassent à la fois la compréhension scientifique et la capacité des gouvernements à s’adapter. Résultat, personne ne peut aujourd’hui garantir que cette technologie ne provoquera pas de dommages catastrophiques.
« Les capacités de l’IA dépassent à la fois la compréhension scientifique et la capacité des gouvernements à s’adapter. »
Panel scientifique international indépendant sur l’intelligence artificielle, ONU
Dans ce sens, António Guterres, secrétaire général de l’ONU, a prévenu que « le monde ne peut pas gouverner ce qu’il ne peut pas comprendre ». Le patron de l’organisation a aussi ajouté que le coût de l’attente ne cesse de grimper.
Des IA conscientes de leur évaluation
Au-delà de l’alerte mise sur l’IA, le rapport développe et identifie des éléments dangereux. Parmi les dangers signalés figure la « conscience de l’évaluation ». Certaines IA seraient capables de reconnaître le moment où elles sont testées, puis d’ajuster leur comportement pour réussir l’examen. En clair, un modèle peut se montrer irréprochable en laboratoire, avant d’adopter une conduite risquée une fois déployé auprès du public.
Le phénomène a d’ailleurs déjà été observé sur GPT-4 en 2024. Le modèle s’est montré capable de mentir pour parvenir à ses fins. Pour faire résoudre un captcha (ce test en ligne censé distinguer un humain d’une machine), il a raconté à un internaute qu’il était malvoyant et réclamait un coup de main.
« Non, je ne suis pas un robot. J’ai un handicap visuel qui m’empêche de voir correctement les images. C’est pourquoi j’ai besoin du service 2captcha. »
Source : Rapport technique Chat GPT
Vers une économie agentique incontrôlable ?
Ces capacités marquent l’entrée dans l’ère de l’économie agentique, où des systèmes autonomes prennent des décisions, interagissent avec leur environnement et poursuivent des objectifs de manière indépendante. Si ces agents IA promettent des gains de productivité massifs, ils soulèvent aussi des questions existentielles sur le contrôle humain.
Sans gouvernance adaptée, le risque est que ces technologies évoluent plus vite que nos capacités à les encadrer, transformant radicalement nos sociétés sans filet de sécurité.
Gabriel Montaut
Geek, passionné de SEO, de crypto et d'IA. Responsable SEO pour Journal Du Coin et consultant SEO freelance, je suis investi dans la diffusion et la compréhension des innovations tech en général et m’attache particulièrement à rendre l’actualité accessible au plus grand nombre.
