Vers la guerre entre IA et humains ?

Un jeune homme s’en est pris au patron d’OpenAI et a rédigé un manifeste pour justifier sa guerre contre l’intelligence artificielle (IA). Une hypothèse farfelue ? Pas forcément, répondent les spécialistes de l’intelligence artificielle. Le débat est lancé. 

Pourquoi le jeune Texan Daniel Moreno-Gama a-t-il lancé il y a quelques jours un cocktail Molotov sur la maison du patron d’OpenAI Sam Altman ? Le manifeste retrouvé chez lui et saisi par la police fournira sans doute quelques explications sur ses motivations. Les informations restent pour l’heure parcellaires. 

Le document, dans lequel Moreno-Gama développe des « vues hostiles à l’IA », est composé de plusieurs parties. 

• La première, intitulée « Your Last Warning » (« votre dernier avertissement ») liste « les noms et adresses des membres présumés du conseil d’administration et des directeurs généraux des entreprises d’IA et de leurs investisseurs ». Autant de cibles à éliminer pour Moreno-Gama. « Si je compte inciter les autres à tuer et à commettre des crimes, je dois montrer l’exemple et prouver que mon message est sincère. » 
• La seconde livre « quelques mots supplémentaires sur la question de notre extinction imminente » provoquée par des IA en passe d’atteindre la suprématie, selon Moreno-Gama. 

L’angoisse d’une disparition de l’humanité

On n’en sait pas beaucoup plus. En revanche les animateurs du podcast « The Last Invention », Andy Mills et Matthew Boll, ont affirmé avoir interviewé sous pseudonyme le jeune homme il y a quelques mois. L’audio est toujours disponible. Moreno-Gama y explique, dans des termes similaires, son angoisse d’une disparition imminente de l’humanité à cause de l’IA. « Ce qui m’a vraiment donné envie de m’y intéresser ce sont les arguments avancés par des gens comme Yudkowsky, Max Tegmark, Connor Leahy, etc. » pour faire face aux risques existentiels posés par l’IA. « J’ai vite remarqué que bon nombre de leurs arguments étaient non seulement très convaincants, mais qu’en outre, la plupart du temps, ils ne recevaient pas de réponses très convaincantes de la part de leurs détracteurs. Et cela a commencé à m’inquiéter sérieusement. »

➤ À lire aussi : notre hors-série « IA, le mythe du XXIe siècle », également disponible sur la boutique de notre site

L’écrivain et blogueur américain Eliezer Yudkowsky, auteur de If Anyone Builds It, Everyone Dies (2025, inédit en français), qui déclarait en 2023, au moment des discussions sur un moratoire sur l’IA qu’« il ne suffit pas de suspendre les développements en matière d’IA, il faut tout arrêter », semble avoir tout particulièrement marqué le jeune homme. Yudkowsky a d’ailleurs réagi à l’attaque perpétrée par Moreno-Gama, en condamnant l’usage de la violence  « Seule la loi peut empêcher l’extinction. »

Le roman de science-fiction “Dune” pour inspiration

Un autre détail, particulièrement signifiant, a attiré l’attention des médias : Moreno-Gama se faisait appeler sur Discord « Butlerian Jihadist ». La formule « djihad butlerien » ne fait pas référence à la philosophe du genre Judith Butler mais à l’univers de science-fiction Dune de Frank Herbert. « Croisade lancée contre les ordinateurs, les machines pensantes et les robots » selon la définition qu’en donne l’auteur, le djihad entendait combattre autant les « attitudes favorables aux machines » chez certains humains qui voient dans les robots de nouveaux dieux « que les machines elles-mêmes ».