“Trop dangereuse pour être publique” : l’IA Claude Mythos, menace ou mystification ?

Claude Mythos, modèle le plus puissant d’IA développé par la société Anthropic, serait capable de prouesses très inquiétantes. Réalité d’une technologie en passe de devenir hors de contrôle ou fiction marketing destinée à la rendre incontournable ? L’analyse d’Octave Larmagnac-Matheron.

C’est un modèle d’IA qui suscite autant d’admiration que d’inquiétude. Claude Mythos, nouveau-né de l’entreprise Anthropic, fait parler de lui depuis qu’un test a révélé des performances troublantes. Alors qu’on lui demandait de s’évader d’un sandbox (un « bac à sable », c’est à dire un ordinateur isolé du réseau internet et sur lequel on peut conduire des tests en toute sécurité) pour contacter le chercheur responsable du test, Claude Mythos s’est exécuté avec brio… et a pris l’initiative de publier sur plusieurs sites les détails de son évasion. Le rapport de la société, long de 244 pages et rédigé sur un ton alarmiste, parle d’une « capacité dangereuse à contourner nos protections ». Dans d’autres tests, l’IA a été observée en train d’effectuer des actions qu’elle reconnaissait comme non autorisées, avant de tenter d’effacer ses traces.

Cybersécurité en jeu

Plus précisément, c’est la capacité de Claude Mythos à détecter les failles de sécurité qui inquiète. « La fenêtre entre la découverte d’une vulnérabilité et son exploitation par un adversaire s’est effondrée. Ce qui prenait des mois se fait désormais en quelques minutes avec l’IA », déclare Elia Zaitsev, cité par Les Numériques, le patron de l’entreprise de cybersécurité CrowdStrike qui participe au « Project Glasswing » mis en place par Anthropic pour réfléchir aux défis de sécurité posés par les intelligences artificielles. Parmi les participants du projet : Apple, Google, Microsoft, Nvidia... Au-delà des géants de la tech, le secteur financier se montre également particulièrement préoccupé. Le 8 avril, Scott Bessent, du Trésor américain, et Jerome Powell, de la Réserve fédérale, ont convoqué les PDG des grandes banques américaines pour une réunion sur les nouveaux risques de cybersécurité. Face aux comportements inhabituels et encore mal compris de Claude Mythos, Anthropic a par ailleurs décidé de ne pas rendre le modèle accessible au public.

Mystification de la “tech”

L’alarmisme n’est pas rare dans les discours sur l’intelligence artificielle. En février 2019, OpenAI jugeait déjà que GPT-2 était « trop dangereux pour être publié ». La firme Anthropic, concurrente d’OpenAI, est particulièrement familière de cette rhétorique. C’est elle qui avait largement diffusé l’idée que certains de ses modèles essayaient parfois de faire chanter les testeurs pour ne pas être éteints. Une manière de laisser planer le doute quant au fait que l’IA serait d’ores et déjà consciente. Certains modèles de Claude auraient été observés en train de mentir stratégiquement pour atteindre leurs objectifs ou de tricher (en utilisant des informations interdites sans l’avouer). Des cas de « mauvais alignement » (lorsque le modèle fait mine de respecter les règles pour atteindre un autre objectif) sont également rapportés. Cette duplicité prêté aux modèles d’IA est reconduite, dans une certaine mesure assumée, jusque dans le nom de Claude Mythos : en grec, le mythos est traditionnellement du côté de la fiction, du récit, par opposition au logos, qui recueille la vérité.

“Un modèle ‘trop dangereux pour être public’ fait une excellente histoire à raconter aux investisseurs” Naïm Bada, journaliste

Peut-être faut-il lever les yeux du modèle pour bien saisir les enjeux d’un nom à plus d’un titre signifiant. Comme le rappelle le journaliste Naïm Bada dans son article « Claude Mythos : et si c’était Anthropic qui nous racontait des mythos ? », « l’entreprise prépare son introduction en bourse pour octobre 2026, avec une valorisation dépassant 300 milliards de dollars. Un modèle “trop dangereux pour être public” fait une excellente histoire à raconter aux investisseurs. » Il n’y a pas de gain sans risque, les paris les plus osés sont souvent les plus juteux. Émotion primitive, la peur repousse mais suscite en même temps un pouvoir de fascination, susceptible de créer des formes intenses d’engagement. Le danger (existentiel, disent certains) du modèle d’IA est le prix symbolique à payer pour ses prouesses, le signe confirmateur de ses performances hors normes. Anthropic cultive l’image d’une entreprise innovante en reprenant l’imaginaire du « savant fou » : le progrès exigerait de prendre des risques, de transgresser certaines limites, de s’aventurer dans l’inconnu. L’intérêt est évident pour l’un des fleurons de la tech. Les discours anxiogènes sur le péril des IA, dans la bouche même de ceux qui les développent, sont-ils autre chose qu’une manière d’hameçonner, par une sorte de mystification, investisseurs et spéculateurs ?

Le temps du mythe

Il y a peut-être encore autre chose à dire sur le nom singulier de cette nouvelle IA. La narration mythologique, en un sens, raconte la sortie du monde mythique. Elle décrit le processus qui, de l’indistinction terrifiante d’un chaos originaire, conduit à un cosmos ordonné où chaque être est à sa place, un monde organisé dans lequel le logos humain pourra se déployer. La mise en récit du mythe marque déjà une démythification de l’existence, une conjuration des angoisses primitives, une mise à distance. « La terreur qui a retrouvé la voie du langage est déjà supportée », note le philosophe allemand Hans Blumenberg dans Arbeit am Mythos. S’il existe des récits mythologiques paradoxalement démythificateurs, peut-être assiste-t-on, aujourd’hui comme en d’autres époques troublées, à la résurgence de récits non mythologiques (technoscientifiques, en l’occurrence) mais « remythificateurs » ?

➤ À lire aussi : IA, le mythe du XXI^e siècle. Notre hors-série spécial sur l’intelligence artificielle

L’IA qui mime, jusque dans ses pires travers, l’humanité, est un double inquiétant qui perturbe les lignes de partage bien établies entre les ordres, les êtres. Elle renvoie à un brouillage chaotique. Ce n’est sans doute pas un hasard si Google, de son côté, a choisi de nommer son IA Gemini, reprenant la figure du jumeau dont René Girard a souligné combien elle reconduisait à l’indifférenciation originelle que toute société s’efforce de conjurer. « Dans les sociétés primitives, les jumeaux inspirent une crainte extraordinaire », ils sont du côté de la « monstruosité ». Le temps du mythe est le temps des monstres qui transgressent les frontières, les limites. C’est cette atmosphère mythique qu’installe aujourd’hui, dans un monde où la continuation régulière du temps vacille, emportée dans des horizons apocalyptiques, la rhétorique des géants de la tech, qui rêvent d’interfaces cerveau-machine, de cyborgs et autres hybrides transhumains, au sens propre monstrueux.

➤ Cet article est exceptionnellement proposé en accès libre. Pour lire tous les textes publiés chaque jour en exclusivité sur philomag.com, avoir accès au mensuel et aux archives en ligne, abonnez-vous à partir de 1€/mois.