Richard David Precht : « Laisser l’IA juger les gens ou prendre des décisions morales, c’est aller droit dans le mur »

Une part croissante de notre travail est accomplie par des machines. Cette automatisation du travail s’est accentuée avec le coronavirus. Quel regard jetez-vous sur ces transformations ?

Richard David Precht : Depuis la première révolution industrielle, le travail physique pénible, comme par exemple celui des fermiers dans leurs champs, a été en grande partie supprimé grâce aux avancées de la technique. À l’avenir, les tâches intellectuelles répétitives seront, elles aussi, de plus en plus assistées par des machines. C’est un véritable progrès dans l’histoire de l’humanité. Mais d’un point de vue individuel, ce processus implique bien souvent des sacrifices. Un employé de banque ou d’assurance peut être content de son travail parce qu’il se sent lié, sur le lieu de travail, à un tissu de relations sociales déterminées qui constitue, pour lui, un environnement agréable. La digitalisation détruit, c’est indéniable, bon nombre de ces environnements sociaux qui font aussi l’intérêt de la vie professionnelle. Quand elle ne nourrit pas le chômage, elle isole les individus dans l’espace étriqué de leurs taches professionnelles.

Votre dernier ouvrage porte un regard critique sur l’intelligence artificielle. Pourquoi ?

Je ne critique pas l’IA en général en tant qu’outil ; tout dépend de la manière dont elle est utilisée. Mais si nous laissons l’IA accomplir des tâches qu’elle est incapable d’accomplir – comme juger les gens, ou prendre des décisions morales – nous allons droit dans le mur. Au-delà du fait que, si nous prenons cette direction, nous sortons très rapidement du cadre posé par notre Constitution [la Loi fondamentale allemande], la question se pose de savoir si nous sommes prêts à faire confiance à la machine, en raison de sa logique incorruptible, pour prendre les décisions les plus sages. Les décisions rationnelles, logiques, statistiquement calculées, ne sont pas l’alpha et l’omega de la sagesse. Il est légitime de se demander si l’IA possède une forme d’intelligence, dans un sens ou dans un autre. Elle ne possède en tout cas pas de capacité de compréhension, et pas non plus de raison [en allemand, Vernunft, qui est presque toujours traduit par « raison » mais est étymologiquement plus proche de « compréhension »]. L’IA peut être aussi intelligente qu’elle veut, cela ne veut pas dire qu’elle est sage.

“Lorsqu’ils sont confrontés à un problème, les humains réagissent par réflexe, tandis que les machines doivent réagir de manière programmée”

Prenons un exemple concret : les voitures autonomes ne sont, certes, pas sages ; mais elles ne s’endorment pas au volant ! N’est-ce pas un avantage évident ?

En effet, cela constituerait une vraie avancée. Toutefois, je ne comprends pas les gens qui ne pensent qu’aux avantages et se refusent à voir les problèmes qui vont avec. Qu’est-ce que nous voulons ? Faire diminuer le nombre de morts par accident de la route. Nous pouvons aussi espérer moins d’embouteillages, si les voitures ne sont plus conduites par des humains. Les voitures autonomes pourraient nous aider à régler les problèmes de circulation dans les grandes villes. Voilà les deux aspects positifs qui me viennent à l’esprit. Mais il y a aussi du négatif : l’automatisation créerait de nombreuses situations déroutantes dans la circulation. Lorsqu'ils sont confrontés à un problème, les humains réagissent par réflexe, tandis que les machines doivent réagir de manière programmée. Que se passe-t-il, alors, si vous devez réagir par une manœuvre programmée dans un cas où il n’y a aucun moyen de freiner à temps ? Cela suppose que les vies humaines soient, d’une manière ou d’une, évaluées à l’avance en termes de « plus » et de « moins ». Notre Constitution ne nous autorise pas à réfléchir ainsi, car elle fait de la dignité humaine un bien absolu. Ce qui est insurpassable ne peut être ni quantifié ni relativisé. Or, c’est exactement ce que nous ferions pour programmer les voitures autonomes : nous serions dans l’obligation d’abroger l'article le plus important de la Constitution – uniquement pour une question, relativement triviale, de circulation routière ! Cela constituerait une menace incroyablement dangereuse. Mais il existe un autre argument contre les voitures autonomes.