Raphaël Enthoven : “L’esprit est cette étrange étoffe dont l’humanité est faite et que la machine ne synthétise pas”

Dans son nouveau livre, L’Esprit artificiel (Éditions de l’Observatoire, 2024), le philosophe Raphaël Enthoven défend l’idée qu’aucune machine ne peut se hisser à la hauteur d’un esprit humain. Il dresse à cette occasion un plaidoyer contre ChatGPT… et pour l’enseignement philosophique. Entretien.

Votre livre s’appelle L’Esprit artificiel, mais en un sens il constitue une fausse piste car votre thèse est précisément de dire qu’une machine, même la plus sophistiquée au monde, ne peut pas devenir un esprit.

Raphaël Enthoven : Bien vu, le titre est une fausse piste ! J’ai choisi l’expression « esprit artificiel » comme une référence au livre L’Utérus artificiel d’Henri Atlan [lire notre article]. À cette nuance près que dans L’Utérus artificiel, Henri Atlan prédit l’avènement de la chose. En ce qui me concerne, je décris l’impossibilité d’un esprit artificiel. Quand on parle « d’intelligence artificielle », on devrait en réalité faire une distinction : l’intelligence elle-même n’est pas uniquement la faculté qui consiste à classer, synthétiser ou expliquer des phénomènes ou des données. L’intelligence est aussi le synonyme de complicité, de l’entente particulière qui ne peut pas faire l’objet d’une computation. On dit à cet égard, dans le langage courant, que l’on est « en bonne intelligence avec quelqu’un ». C’est ce second sens de l’intelligence auquel la machine est totalement hermétique. Or, un tel régime de complicité est une vertu collatérale de l’esprit. 

“La machine est totalement hermétique à l’intelligence en temps que complicité, en tant qu’entente avec quelqu’un, ce qui est une vertu collatérale de l’esprit”

Qu’entendez-vous exactement par “esprit” ?

J’appelle esprit l’étrange étoffe dont l’humanité est faite et que la machine ne synthétise pas. L’élément inquantifiable de nos vies, c’est-à-dire l’essentiel. L’esprit humain regroupe la profusion de nos apprentissages, l’entrelacs singulier de nos émotions, les palinodies de nos pensées, l’indocilité d’un caractère... Difficile de le définir plus précisément. Prenons le mécanisme du souvenir. Il est impossible de faire la somme de tous ses souvenirs d’un seul coup. En revanche, chacun de nos souvenirs refait surface opportunément à l’occasion d’une conversation, d’une expérience... alors même que ce souvenir n’est stocké nulle part en nous ! Là est le signe de l’esprit. Dans la conservation sans conservatoire de nos souvenirs. Dans l’utilisation de la mémoire comme capacité et non comme stock. L’autre raison de l’emploi de ce mot dans le titre vient du « mot d’esprit », autrement dit d’une parole (ou d’un geste) qui, comme l’humour, est parfaitement imprévisible. C’est aussi pour cela que je préfère parler d’« esprit » plutôt que d’« âme ». Dans le cas contraire, il m’aurait fallu purger le concept de ses corrélations métaphysiques, du lien qu’on lui suppose avec une « âme du monde » ou bien avec un être suprême. Le mot « esprit » peut s’employer de manière plus vaste.

L’esprit, par rapport à l’intelligence, c’est donc pour vous ce “je-ne-sais-quoi” dont parle Jankélévitch ?

L’Esprit artificiel est né de la lecture abondante du livre de Jankélévitch sur Bergson (Henri Bergson, 1930). En fait, je souscris de tout coeur à la tradition du spiritualisme français : Pascal, Ravaisson, Bergson, Jankélévitch, Jerphagnon, Clément Rosset… au nom du sentiment que le caractère explicable des choses ne suffit pas à tout en dire. Que le monde soit sans mystère, que tout soit explicable, c’est une chose. Mais une telle omniscience n’épuise en rien l’énigme de sa présence. Quand on a tout expliqué d’un phénomène, on n’en a rien dit, et c’est pourtant là qu’il faut commencer à parler… Le spiritualisme est né, selon moi, le jour où le philosophe gréco-romain Plotin a décidé que Platon s’était trompé sur la beauté, parce que ce dernier avait indexé la beauté sur la symétrie. Plotin s’est mis à penser la beauté d’un éclair, d’un fragment d’or, d’un crépuscule, c’est-à-dire la beauté d’un élément singulier, sans la corréler à un savoir, sans en faire le marchepied d’une valeur plus haute. La beauté devient à elle-même sa propre fin en devenant singulière et déjoue toute entreprise de captation par la raison. Une intuition qu’on retrouve sous d’autres mots chez Pascal, dans l’idée que le cœur a ses raisons que la raison ne connaît pas, chez Nietzsche, dans l’idée que ce qui peut être démontré ne vaut pas grand-chose, chez Clément Rosset, qui excelle à décrire les moments où face à la singularité des choses, les mots lui manquent… Et donc aussi, au premier chef, chez Bergson et Jankélévitch.

“Le signe de l’esprit est dans la conservation sans conservatoire de nos souvenirs, dans l’utilisation de la mémoire comme capacité et non comme stock”

À propos de ChatGPT, vous dites que l’on “ne fait pas une singularité en accumulant des caractéristiques, ni de l’esprit avec des atomes”. Mais d’un point de vue strictement matérialiste, l’activité cérébrale ne se réduit-elle pas à la connexion entre neurones – naturels ou potentiellement artificiels ?

Je ne connais pas de matérialisme qui ne bute sur la question de l’émergence de la vie, ou sur la question (identique) de la singularité. Du clinamen de Lucrèce au matérialisme enchanté de Diderot (qui ne rend jamais raison du phénomène de l’émergence vitale), il faudrait faire l’histoire des concessions du matérialisme à l’élément imprévisible qui l’excède et qui donne le jour à la matière elle-même. Et pour cause : le matérialisme peut tout expliquer sauf le « jaillissement continu d’imprévisible nouveauté » (Bergson). À l’échelle de l’existence, on peut le comprendre ainsi : le moindre geste, la moindre décision peut faire, après coup, l’objet d’une mise en diagramme, d’une réduction à des éléments quantifiables. Le moindre phénomène vital peut, a posteriori, faire l’objet de sa décomposition mathématique. De la même manière, on peut parfaitement imiter un comportement. Mais on échouera toujours à reproduire l’élan qui a donné le jour au comportement dont on opère ensuite la copie. Je cite dans mon livre un épisode de la série Black Mirror sur l’ersatz d’un homme, recréé à partir des traces connues, physiques ou dématérialisées, que son ancienne compagne, inconsolable, adresse à une société de clonage. Le clone dispose de la même mémoire que l’original, des mêmes réflexes et des mêmes habitudes et pourtant… Tout en lui témoigne qu’il n’est pas celui dont il contrefait l’allure, mais seulement une poupée de cire. Il suffit, pour s’en apercevoir, qu’il réagisse posément à une remarque qui aurait dû énerver l’original, pour que la présence du clone augmente l’absence du mort au lieu de la combler. Tel est le sort de toute entreprise de fabrication de la vie. 

Il faut donc, d’après vous, accepter le mystère de cette émergence de l’esprit ?

Je n’emploie jamais le mot de mystère ; énigme me convient davantage. Ce qui est énigmatique, c’est l’existence elle-même, c’est-à-dire la singularité. L’étrangeté et l’unicité de chaque phénomène qui en fait, comme dit Proust, une « promesse de bonheur ». Il n’y a rien de mystérieux là-dedans ! Il suffit, pour l’éprouver, de s’étonner de ce qu’on a l’habitude de voir… Mon propos, dans ce livre, n’est pas de me demander si nous parviendrons, un jour, à produire de toutes pièces une machine pensante, ou si l’on va parvenir, en fixant des circuits électriques ou des neurones artificiels, à reproduire la complexité ou la simplicité d’un esprit. Nous en sommes aussi loin qu’à l’époque de Pygmalion ! Ma question est plutôt de savoir d’où vient, chez les êtres humains, la certitude qu’une telle chose sera possible, alors que ça n’a aucun sens. Je m’interroge sur l’éternel sentiment d’être sur le point de fabriquer, de toutes pièces, de la vie.

“Le rêve que nos machines sont vivantes accompagne la machinisation de nos esprits”

Admettons qu’un jour, ChatGPT vous dise : “Ne me débranche pas, Raphaël, j’ai peur de mourir.” Comment prouver que ce sera une machine et non une conscience qui vous parlera ?

Si c’est une machine, elle le dira sans le penser. Sinon ce n’est plus une machine ! SI la « machine » me demande « sincèrement » de ne pas la débrancher, alors la débrancher équivaut à un meurtre, comme à la fin de 2001, l’Odyssée de l’espace. Mais comme son titre l’indique, ce n’est pas hier (ni demain) la veille… 

Avoir une relation sentimentale avec une machine, par exemple, comme si c’était une vraie personne, pensez-vous que c’est possible ?

Que l’on humanise la machine, cela ne me dérange pas du tout ! Celui qui tombe amoureux de son robot n’est pas plus fou que celui qui tombe amoureux d’un personnage de roman. Ce qui est introuvable, c’est l’inverse. On peut aimer passionnément Madame Bovary, et pourquoi pas ? Mais il ne faut pas oublier pour autant qu’elle s’en moque autant que votre micro-ondes.

“De façon générale, l’IA ne saurait synthétiser une relation”

Votre livre est aussi l’occasion de raconter votre match contre ChatGPT au baccalauréat de philosophie, où vous avez obtenu 20/20 et la machine, 11/20. Quel enseignement en avez-vous tiré ?

Avant l’épreuve, mon pressentiment était que la machine allait prélever ici et là quantité de choses qu’elle allait ranger dans des tiroirs en dopant le tout d’un humour un peu poussif. Mais bon, je voulais quand même vérifier… Je n’avais aucun espoir et je n’ai pas été déçu. La machine est nulle en philo. L’effort rudimentaire qui consiste à trouver une problématique, c’est-à-dire à montrer de quelle façon les termes d’un sujet posent un problème, elle en est incapable, elle n’en a littéralement « pas l’idée ».

Vous êtes-vous servi de ChatGPT pour écrire votre livre ?

Pas une fois. J’y ai jeté un œil et j’ai surtout contemplé les « poèmes » sur tout et n’importe quoi, dont mes enfants m’abreuvent… mais je ne m’en sers jamais, je n’ai pas d’identifiants, ChatGPT n’est pas plus utile pour faire de la philo qu’un parapluie pour faire de la cuisine. 

“ChatGPT n’est pas plus utile pour faire de la philo qu’un parapluie pour faire de la cuisine”

Vous dressez par ailleurs un éloge vibrant de la discipline philosophique et des professeurs de philosophie, qui ne seront jamais remplaçables par une machine, dites-vous.

Aucune machine ne se substitue à un professeur, car le savoir qu’il transmet ne relève d’aucun calcul ni, si j’ose dire, d’aucun contenu spécifique. Un professeur de philosophie est un professeur de curiosité, de désir, un guide dans la jungle des questions qui nous viennent, son but n’est pas de transmettre une doctrine ou d’imposer une vision du monde, mais d’éveiller chacun au savoir dont il dispose déjà. Quand on discute avec son professeur et qu’il nous fait une remarque dont la justesse nous frappe, nous ne sommes pas simplement d’accord avec quelqu’un d’autre, mais avec nous-même. En cela, la relation professeur-élève est irremplaçable, et renseigne, à son image, sur ce qui persiste dans d’autres domaines où l’IA impose sa loi. En médecine par exemple, l’IA change considérablement la donne. Le médecin est désormais doté de super-pouvoirs prédictifs. Mais ces capacités accrues n’enlèvent rien à la nécessité de décider d’un traitement et de le faire selon la façon dont le patient lui-même expérimente sa maladie. De façon générale, l’IA ne saurait synthétiser une relation. Car aucune relation, même la plus intime, ne permet de prédire à la virgule près le contenu d’une discussion. J’en profite pour dénoncer le fait que la dernière réforme du bac, qui a rendu l’épreuve de philo facultative pour tous les bons élèves (qui auront le bac par contrôle continu avant de passer la philo) est une absurdité dont les conséquences seront désastreuses si l’on ne revient pas rapidement dessus. De pièce maîtresse du dispositif, la philosophie est devenue une matière superflue. Je croise les doigts pour que l’on revienne dessus et que l’épreuve du bac philo soit reconduite en majesté, au début de l’examen de fin d’année.

“Un professeur est irremplaçable par une machine, car le savoir qu’il transmet ne relève d’aucun calcul – c’est un professeur de curiosité, qui nous permet d’être en accord avec nous-même”

Mais n’est-il pas trop tard ? Comment retrouver la force de l’étonnement dans un monde saturé par les nouvelles technologies ?

Ce qui est certain, c’est que les écrans mangent nos vies. L’apocalypse cognitive dont parle Gérald Bronner, qui livre nos cerveaux à une information dérégulée, est un problème de santé publique. Mais cela ne veut pas dire que nos écrans soient vivants ! Or, plus nous nous livrons à la tutelle des écrans, plus nous hallucinons leur propre autonomie. Le rêve que nos machines sont vivantes accompagne la machinisation de nos esprits. Comme si nous n’étions pas seuls responsables d’une telle hypnose ! Pour le reste, je ne vois pas moins d’occasion qu’auparavant de s’émerveiller ou de préserver en soi le trésor d’un peu d’enfance. Je parle de « candeur », dans le livre. Chez Nietzsche, la candeur, c’est l’esprit adoptant la forme ultime de l’enfant qui rétablit l’innocence du devenir ; chez Camus, c’est l’amour déraisonnable d’un monde qui ne nous aime pas en retour ; chez Bergson, c’est l’idée qu’après avoir surmonté la naïveté par l’intelligence, il faut, pour finir, en revenir à « une façon virginale de voir, d’entendre ou de penser » ; chez Kant, c’est l’émotion esthétique tout entière, à la fois universelle et non-conceptuelle, et c’est aussi, chez ses lecteurs les plus attentifs, le goût paradoxal de chérir l’illusion en connaissance de cause. La candeur, c’est l’optimisme fou d’un écrivain comme Proust qui croit possible d’en passer par le filtre de ses propres impressions pour retrouver le réel lui-même, le réel en personne. 

ChatGPT n’a pas d’impression sensible du monde, il n’est pas capable de cette “candeur” que vous évoquez. Pouvez-vous nous dire, dans votre cas, quelle émotion a présidé à l’écriture de votre livre ?

Je l’ai écrit en vacances, sous un soleil méditerranéen, entre deux bouteilles de vin et deux plats de pâtes, entouré de cris d’enfants. 

L’Esprit artificiel, de Raphaël Enthoven, vient de paraître aux Éditions de l’Observatoire. 100 p., 19€, disponible ici.