L’Union européenne, première législatrice mondiale de l’IA ?

Réglementer l’IA est une mission prométhéenne. Derrière cet acronyme omniprésent – « IA » –se cache un objet polymorphe, résistant aux définitions et aux catégories juridiques. L’intelligence artificielle est à la fois inoffensif chatbot, programme de sélection à l’université, voiture autonome, système de reconnaissance faciale et robot-soldat. À ce défi de diversité, les juristes de la Commission européenne ont répondu le 21 avril par un document de 108 pages. Un cadre juridique inédit qui catégorise l’IA selon ses risques potentiels. Il y a les systèmes d’IA à « risque inacceptable », comme les notations sociales par un État (le système de crédit social en Chine par exemple, qui n’est rien moins qu’un outil totalitaire de surveillance globale des citoyens), qui seront interdits sur le sol européen. Ensuite, ce sont les IA à « risque élevé », dont le point commun est qu’elles mettent en jeu les droits fondamentaux des personnes. Parmi elles, la Commission compte les technologies utilisées pour le maintien de l’ordre, les contrôles aux frontières (identification biométrique, authentification des documents d’identités…), mais aussi celles utilisées par des banques (pour attribuer un crédit par exemple). Pour ces IA à haut risque, la Commission prévoit un contrôle strict et exige une grande transparence des concepteurs sur leur fonctionnement. Enfin, on trouve les IA à risque limité, comme les « deepfake » ou les chatbots, qui auront l’obligation de se signaler clairement comme non-humains. Le droit européen compte donc bien domestiquer cette technologie changeante. Mais qui l’écoutera ?