IA : inventer, c’est (se) tromper ?

[Mise à jour 9 octobre 2024 : cet article est initialement paru sur notre site il y a plus d’un an. Nous le republions à l’occasion de l’attribution du prix Nobel de physique 2024 à Geoffrey Hinton et John Hopfield]

Le chercheur canadien Geoffrey Hinton, souvent qualifié de « parrain de l’intelligence artificielle » (IA), dit regretter son invention, alors que nombre d’autres spécialistes des IA craignent que leur œuvre ne leur échappe. Il n’est pas le premier scientifique à maudire sa propre création. Mais quelle est la responsabilité des créateurs ? Éclaircissements.

Geoffrey Hinton, l’un des spécialistes des réseaux de neurones artificiels, qui permettent à une IA d’apprendre en autonomie, affirme « regrette[r] l’œuvre de [sa] vie ». Avant lui, d’autres scientifiques et ingénieurs ont exprimé des remords. Le père de la théorie de la relativité dont les travaux ont contribué à la fission nucléaire, Albert Einstein, s’est écrié : « Pauvre de moi ! », lorsque les bombes atomiques d’Hiroshima et de Nagasaki ont percuté le sol japonais. Pacifiste engagé, il ne se doutait pas qu’en avertissant Franklin D. Roosevelt du danger d’une potentielle arme atomique aux mains des nazis, le président des États-Unis lancerait le « Projet Manhattan ».

Mêmes regrets chez le biologiste américain Arthur Galston : son herbicide (mis au point en 1945) a été détourné par l’armée américaine pour l’utiliser durant la guerre du Vietnam (1963-1975) et en faire une arme redoutable, l’« Agent orange ». Destiné à favoriser la croissance du soja, il devient en effet un véritable poison quand il est utilisé en trop grande quantité. Bien que le phytobiologiste eût prévenu du potentiel écocide, l’armée n’hésita pas à déverser plus de 83 millions de litres de défoliant sur le Vietnam. Aujourd’hui plus de 3 millions de personnes en subissent encore les conséquences.