Chine / Surveillance
Antoinette Rouvroy. « Le projet chinois relève bien d’une forme de “gouvernementalité algorithmique” »
Cet article est réservé aux abonnés.
Cet article est issu du numéro 119 de Philosophie magazine « Le culte de la perfection. Jusqu’où s’améliorer ? », en kiosque le 26 avril 2018. Découvrez le sommaire et commandez ce numéro.
La philosophe Antoinette Rouvroy décrypte l’expérimentation d’un « système de notation sociale » en Chine. Cette expérience de notation et de surveillance généralisées vise à rémunérer les comportements « sincères » et « générateurs de confiance ». Mais il prévoit aussi de sanctionner les comportements « malhonnêtes », par exemple en interdisant l’accès à certains services publics.
Le système d’évaluation mis en place en Chine se fonde dans un premier temps sur l’acceptation par les citoyens d’une surveillance numérique. Est-il spécifique aux sociétés totalitaires ou participe-t-il plus généralement à des modes de gouvernement fondés sur les algorithmes, à l’œuvre partout ?
Antoinette Rouvroy : Ce projet de social credit scoring [système de notation sociale] implique en effet une surveillance continue. Son objectif est la normalisation des comportements : réformer les psychismes en vue de produire des sujets ayant (ré)intégré l’idéal de fiabilité. L’évaluation continue des individus par la publication d’une note de « fiabilité » individuelle évolutive, calculée à partir de l’ensemble des données numériques émanant des comportements, est de nature à décourager l’insincérité, la déloyauté, l’infidélité… Le fonctionnement normatif de ces modes de gouvernement par les algorithmes est particulier : les comportements ne sont pas évalués à l’aune d’une métrique stable mais à l’aune d’une métrique hypermobile calculée en temps réel à partir signaux numériques émis par tous les autres. Les données numériques issues de nos comportements en ligne contribuent, en temps réel, à faire évoluer la norme de fiabilité dont les individus sont à la fois vecteurs et destinataires. Le projet chinois relève donc bien d’une forme de « gouvernementalité algorithmique ».
