Slavoj Žižek : de la stupidité des “chatbots”

Dans la tribune qu’il nous adresse, le philosophe slovène Slavoj Žižek pointe le principal danger des robots conversationnels du genre de ChatGPT. Le vrai risque n’est pas que nous prenions le chatbot pour un véritable individu, mais que l’intelligence artificielle, imperméable à l’ironie et au second degré, nous fasse tous parler comme des robots…

« Des millions de personnes utilisent déjà des chatbots, des programmes informatiques capables d’entretenir une conversation avec un utilisateur en langage naturel, de comprendre ses intentions et de lui répondre sur la base de règles et de données prédéfinies. Récemment, cependant, leurs capacités se sont élargies de manière inédite. Il n’est donc pas étonnant que les universités et les lycées réagissent avec panique – certains d’entre eux n’autorisant plus désormais que les examens oraux.

Entre autres problèmes, il y en a un qui mérite l’attention : comment un robot conversationnel doit-il réagir lorsque son partenaire humain, au cours d’un dialogue, émet des remarques sexistes et racistes agressives, ou décrit des fantasmes sexuels discutables ? Que faire lorsque l’individu qui échange des messages avec un chatbot utilise un langage grossier ou fait des remarques racistes, sexistes ou violentes, et que le chatbot, programmé pour répondre au même niveau que les questions qui lui sont adressées, répond sur le même ton ? La réponse évidente serait une un réglementation qui fixerait des limites claires : une forme de censure. Mais qui déterminera jusqu’où doit aller cette censure ? Les positions politiques jugées “offensantes” par certaines personnes doivent-elles également être interdites ? La solidarité avec les Palestiniens de Cisjordanie ou l’affirmation qu’Israël est un État d’apartheid (comme l’ancien président américain Jimmy Carter le proclame dans le titre de son livre) seront-elles bloquées en tant qu’“antisémites” ? Le problème est plus profond encore. Comme l’a dit l’essayiste spécialiste d’esthétique James Bridle de manière ramassée : “L’intelligence artificielle, dans sa forme actuelle, est basée sur l’appropriation en bloc de la culture existante, et l’idée qu’elle est réellement intelligente pourrait être effectivement dangereuse.” De ce point de vue, il ne faut pas sous-estimer les potentialités des générateurs d’images par IA [tels que Midjourney, Dall-E ou Stable Diffusion] :