Nick Bostrom : "Une superintelligence pourrait nous convaincre des vertus de presque n’importe quoi"

Selon le philosophe suédois Nick Bostrom, la question n’est pas si mais quand il y aura des systèmes dépassant les humains dans tous les domaines cognitifs. Seront-ils conscients ? Pas forcément, affirme le transhumaniste, mais cela s’anticipe : il plaide pour qu’un statut moral soit accordé aux futurs esprits numériques. Avant l’apparition inévitable à ses yeux d’une superintelligence.

Votre parcours intellectuel vous a conduit au carrefour de la science, de la technologie et de la métaphysique. Comment vous considérez-vous, aujourd’hui ?

Nick Bostrom : Je ne me suis jamais défini en termes de discipline académique. J’essaie de comprendre le monde, en particulier ce que je considère comme ses aspects les plus importants. La poursuite de cet objectif m’amène à travailler dans différents domaines. Il peut s’agir de physique théorique, de philosophie, de biosciences, d’informatique… Bref, d’un grand nombre de domaines. Mais si je devais choisir une étiquette, j’opterai pour « philosophe » – c’est un terme particulièrement élastique.

Vous avez beaucoup travaillé sur la notion de superintelligence. Comment la définissez-vous ?

La superintelligence n’est pas simplement un nouvel outil qui s’ajoutera progressivement aux capacités humaines. Elle est radicalement différente. Par « super-intelligence », j’entends un système qui surpasse largement tous les individus humains dans tous les domaines cognitifs. Auparavant, les systèmes d’IA avaient des capacités limitées : un système pouvait jouer aux échecs, mais une autre IA était nécessaire si l’on voulait jouer aux dames. Avec la révolution de l’apprentissage profond, qui a débuté il y a environ onze ans, nous avons développé des IA dotées de capacités d’apprentissage plus générales. À partir de là, les progrès ont été rapides. Les modèles actuels basés sur des modèles auto-attentifs [qui permettent à l’IA d’apprendre à se con-centrer sur des parties spécifiques d’une donnée complexe interne, par exemple une image ou un mot dans une phrase contenue dans sa mémoire] ont des capacités assez générales. Mais ils ne sont pas encore super-intelligents ni pleinement humains, car encore incapables d’accomplir de nombreuses tâches aussi bien que l’homme moyen.

Dans quelle mesure la superintelligence implique-t-elle la création d’une conscience artificielle ?

Le concept de superintelligence n’implique pas la conscience. Cependant, il se pourrait que les moyens les plus plausibles de produire une superintelligence – ou des niveaux inférieurs d’intelligence générale – impliquent la création de systèmes ayant une expérience consciente. Il est difficile d’en juger, en partie parce que nous ne disposons pas de critères théoriques ou opérationnels bien établis pour déterminer si un système est conscient. Il est urgent de progresser dans ce domaine, car d’importantes questions morales sont en jeu. C’est l’une des choses sur lesquelles je travaille actuellement, et j’encourage également certains de mes collègues à y travailler : développer une meilleure compréhension des conditions dans lesquelles les esprits numériques pourraient avoir différents degrés de conscience ou d’autres caractéristiques les dotant d’un statut moral. Ce problème pratique intervient avant d’atteindre la super-intelligence – la plupart des gens pensent que les humains, mais aussi certains animaux, au moins, ont un statut moral. Dans mon article « Propositions Concerning Digital Minds and Society », publié en 2020, j’ai plaidé en faveur d’une vision inclusive de l’avenir qui cherche à prendre en compte les intérêts d’un très large ensemble de catégories d’êtres : tous les humains, bien sûr, et les animaux non humains, mais aussi une variété d’esprits numériques qui pourraient être construits. La bonne nouvelle, c’est que, dans les scénarios où les esprits numériques se développent considérablement, nous assistons en même temps à une expansion significative de la richesse, des capacités technologiques et des ressources. Il devrait donc être possible, en principe, de trouver un équilibre satisfaisant selon un large éventail de perspectives normatives, qui tiendrait compte des intérêts d’un grand nombre d’êtres différents.