Les fausses promesses de ChatGPT

Dans cette tribune publiée par le New York Times, un philosophe et deux linguistes – dont Noam Chomsky – questionnent les fantasmes qui entourent les systèmes conversationnels du type ChatGPT. Leur verdict est sans appel : absence d’intelligence et indifférence morale synonyme de banalité du mal.

Jorge Luis Borges a écrit un jour que vivre à une époque de grands périls et de grandes promesses, c’est faire l’expérience à la fois de la tragédie et de la comédie, avec « l’imminence d’une révélation » dans la compréhension de nous-mêmes et du monde. Aujourd’hui, les progrès prétendument révolutionnaires de l’intelligence artificielle suscitent à la fois inquiétude et optimisme. Optimisme parce que l’intelligence est le moyen par lequel nous résolvons les problèmes. Inquiétude parce que nous craignons que la forme la plus populaire et la plus en vogue de l’IA – le machine learning – ne dégrade notre science et n’avilisse notre éthique en incorporant dans notre technologie une conception fondamentalement erronée du langage et de la connaissance.
 

ChatGPT d’OpenAI, Bard de Google et Sydney de Microsoft sont des merveilles de machine learning. Pour le dire simplement, ils aspirent d’énormes quantités de données, y recherchent des modèles et deviennent de plus en plus compétents pour générer des résultats statistiquement probables : des sortes de pensée et de langage apparemment semblables à ceux de l’homme. Ces programmes ont été salués comme les premières lueurs annonçant l’intelligence artificielle générale, ce moment longtemps prophétisé où les esprits mécaniques surpasseront les cerveaux humains tant quantitativement – le traitement et le volume de mémoire – que qualitativement – la perspicacité intellectuelle, la créativité artistique et toute autre faculté distincte de l’être humain. Ce jour viendra peut-être, mais son aube n’est pas encore arrivée, contrairement à ce que l’on peut croire à la lecture des titres hyperboliques et au regard des investissements imprudents. La révélation borgésienne de la compréhension ne s’est pas produite et ne se produira pas – ne peut pas se produire – si les programmes de machine learning comme ChatGPT continuent à dominer le domaine de l’IA. Quelle que soit l’utilité de ces programmes dans certains domaines étroits (ils peuvent être utiles en programmation informatique, par exemple, ou pour suggérer des rimes à la poésie légère), nous savons, grâce à la science de la linguistique et à la philosophie de la connaissance, que ceux-ci diffèrent profondément de la manière dont les humains raisonnent et utilisent le langage. Ces différences imposent des limites importantes à ce que ces programmes peuvent faire, et les grèvent d’insuffisances indépassables.
 

Il est à la fois comique et tragique, comme Borges aurait pu le noter, que tant d’attention et d’argent soient concentrés sur si peu de choses – sur quelque chose de si trivial par rapport à l’esprit humain qui, par la grâce du langage, selon les mots de Wilhelm von Humboldt, peut faire « un usage infini de moyens finis », et créer des idées et des théories à portée universelle. L’esprit humain n’est pas, contrairement à ChatGPT et à ses semblables, un moteur statistique lourdaud destiné à la recherche de modèles qui se nourrirait de centaines de téraoctets de données pour extrapoler la réponse conversationnelle la plus probable ou la plus vraisemblable à une question scientifique. Au contraire, l’esprit humain est un système étonnamment efficace, et même élégant, qui fonctionne avec de petites quantités d’informations ; il ne cherche pas à déduire des corrélations brutes entre les points de données, mais à créer des explications.