Les sociétés du profilage ou l’éclipse de la vérité, par Philippe Huneman

La surveillance et le profilage à l’aide des outils numériques font peur. Mais le pire, argumente le philosophe Philippe Huneman, qui vient de faire paraître l’essai Les Sociétés du profilage (Payot), est sans doute que ces outils d’influence rendent inutile le souci de la vérité. Voici son essai.

Orwell et la Chine populaire se rejoignent dans notre imaginaire dès lors qu’il est question de technologies numériques de surveillance. Mais, en réalité, des caméras devenues « intelligentes » ornent déjà nos rues. En 2019, le quotidien américain The New York Times a tenté une expérience : le dense réseau de caméras de vidéosurveillance de Manhattan permettrait-il de savoir exactement qui marche sur les trottoirs ? La réponse fut sans appel : les milliers de visage qui s’inscrivent chaque heure sur les écrans de la surveillance de Bryant Park, au cœur du quartier des gratte-ciel, reçoivent très facilement un nom. Pour ce faire, la reconnaissance faciale mise au point ces dernières années, dont vos téléphones profitent des prouesses en classant les personnages de vos albums photo, suffit : en fouillant parmi les milliards de clichés déposés sur le Web, elle a aisément retrouvé cette jeune dame en corsage ou ce monsieur porteur d’un attaché-case, professeur de chimie qui file vers la classe qui l’attend. Vous qui pénétrez dans nos cités, délaissez ici tout espoir de passer inaperçu.

Une autre « intelligence » fait parler d’elle depuis deux mois : ChatGPT, l’intelligence artificielle (IA) dite conversationnelle lancée dans le public par OpenAI, est précédée de sa réputation d’« IA la plus sophistiquée du monde ». Petits et grands jouent avec elle, s’ébaudissent de ses talents de poète ou d’historien, en testent parfois les limites éthiques ou logiques. Pour qui se rappelle l’ordinateur ultime portraituré par Douglas Adams dans Le Guide du voyageur galactique (1978) – bible des geeks à l’époque –, le progrès est saisissant. À la question : « Quel est le sens de la vie ? », la machine répondait le mythique « 42 » ; chatGPT lui, proclame assez consensuellement : « En fin de compte, le sens de la vie est souvent considéré comme un concept personnel et subjectif, et peut être différent pour chaque personne. Il est important de trouver ce qui donne un sens à votre vie, qu’il s’agisse de relations, de contributions, de réalisations ou d’autres choses, et de vivre de manière alignée avec ces valeurs et ces croyances. »

Intelligence et surveillance

La caméra-mouchard et l’ordinateur bavard, si dissemblables, ne se nomment pas tous deux « intelligence » par hasard. Le même ressort sous-tend leurs pouvoirs : la donnée massive (big data, en anglais), et les algorithmes qui ont appris à les faire parler. Intelligente, la caméra de Bryant Park compare entre eux des milliards de visages pour en tirer des traits qui s’apparentent au mieux avec celui du visage ciblé ; GPT navigue, lui, dans un univers de mots pour détecter ceux qui sont les plus proches de l’ensemble des mots de ma question. Ces capacités lui valent d’ailleurs d’être considéré par beaucoup comme le successeur des moteurs de recherche, domaine où Google règne – la guerre économique à venir se jouant décidément sur ce terrain. Et, de fait, si ChatGPT détrônait Google, le changement ne serait pas si profond. Ses techniques numériques de recueil, collecte et traitement algorithmique de données massives fondent les prodiges que l’Internet nous offre déjà quotidiennement : requêtes, recommandation, itinéraires…

Nombreux sont les auteurs qui s’émeuvent des usages de telles techniques – moins nombreux sont ceux qui s’enthousiasment. Des livres majeurs leur ont été consacrés – le L’Âge du capitalisme de surveillance de la sociologue Shoshana Zuboff, La Société d’exposition de Bernard Harcourt, entre beaucoup d’autres. Apocalyptiques, messianiques, ou analytiques comme les deux derniers, ils s’attardent sur la puissance de surveillance tapie sous ces dispositifs. Or en 1975, Michel Foucault parlait déjà de Surveiller et Punir, à propos de l’émergence de la discipline comme mode de gourvernementalité au XVIII^e siècle. Pour lui, le capitalisme industriel naissant avait besoin d’homogénéiser et d’ordonner des populations afin de maximiser leur rendement (vaincre, produire des biens ou former des travailleurs dociles). Écoles bien rangées, armées napoléoniennes agencées pour le triomphe, hôpitaux désormais disposés selon une stricte logique de la séparation spatiale des pathologies, usines bientôt taylorisées et enfin prisons sont les lieux majeurs de la discipline. La surveillance visait alors à contrôler le respect d’une norme par chacun : qui la transgresse doit être puni – le bon fonctionnement de chaque institution supposant l’implémentation stricte de normes de fonctionnement.