Technologie
L’“alignement” des IA, enjeu du siècle ?
© Frank Augstein/AP/Sipa
Cet article est réservé aux abonnés.
C’est l’un des mots qui fait florès en matière d’intelligence artificielle : il faudrait permettre l’« alignement » de ces machines pour leur permettre de servir les êtres humains le mieux possible. Octave Larmagnac-Matheron explique ce que les ingénieurs et éthiciens entendent réellement par là.
C’est quoi ?
Si on le définit simplement, l’alignement d’une intelligence artificielle (IA) consiste à faire en sorte que cette dernière se comporte d’une manière conforme à ce que ses développeurs humains veulent réellement qu’elle fasse. L’alignement consiste donc d’abord à construire des IA qui poursuivent bien les objectifs qu’on veut leur assigner.
Mais il inclut également une dimension « négative » : faire en sorte que, dans l’accomplissement de leur finalité, ces IA ne mobilisent pas certains moyens que nous pourrions juger inacceptables ou dangereux. Concrètement, ce paramétrage restrictif de l’IA inclut différents mécanismes de limitation – interdictions explicites, demande de confirmation humaine en cas de doute, etc.
La traduction de l’anglais par le français « alignement », globalement admise, tend parfois à réduire le problème au fait de « faire suivre des instructions à la machine ». Il s’agit, plus globalement, de développer des IA « en accord », « en adéquation » avec les valeurs humaines.
D’où ça vient ?
L’idée apparaît dès les années 1960 sous la plume de Norbert Wiener, l’un des pères de la cybernétique, qui écrit dans son article « Some Moral and Technical Consequences of Automation » paru dans la revue Science : « Si, pour atteindre nos objectifs, nous recourons à un agent mécanique […], alors nous ferions mieux de nous assurer que le but introduit dans la machine est bien celui que nous désirons réellement, et non simplement une imitation séduisante de celui-ci. »
Le concept même d’alignment, apparu plus récemment, est difficile à dater. Il est notamment popularisé par le chercheur en sciences de l’informatique à l’université de Californie à Berkeley Stuart Russell dans son « livre blanc » de 2014, « Value Alignment in Autonomous Systems » : « Pour qu’un système autonome soit utile aux humains et ne présente pas de risques injustifiés, il doit aligner ses valeurs sur celles des humains qui composent son environnement, de telle sorte que ses actions contribuent à maximiser la valeur pour ces derniers. »
