De nouveaux enjeux éthiques

Les avancées technologiques, notamment l’intelligence artificielle (IA), changent drastiquement la donne de la guerre. Les drones aériens, marins ou terrestres, par exemple, présentent de nombreux atouts : légers, capables d’accélérations rapides, ils permettent de mener des attaques sur des cibles précises sans exposer la vie des soldats. Ils peuvent progresser sans ravitaillement ni oxygène, sans repos nécessaire. S’ils sont désormais partie prenante de tous les conflits, un développement de ces technologies qui serait actuellement en phase de test en Ukraine ou sur la bande de Gaza suscite des interrogations, surtout avec les perspectives ouvertes par l’IA : quel degré d’autonomie souhaite-t-on accorder à ces armes ? Selon la définition donnée par Amnesty International, les armes autonomes sont des « systèmes qui, une fois activés, ont la capacité de sélectionner une cible et d’engager une force létale seulement grâce à l’analyse de capteurs, sans intervention humaine ». Il existe une raison tactique pour que de tels systèmes soient fabriqués : sur le terrain, les belligérants utilisent des technologies de brouillage des communications radio pouvant rompre le lien entre une arme télécommandée et l’opérateur qui la pilote à distance. Dans ce cas, une arme autonome peut poursuivre sa mission et, si elle est équipée d’une IA et de capteurs, prendre certaines décisions jusqu’à atteindre sa cible, qu’il s’agisse d’humains ou d’une infrastructure. 

Depuis plusieurs années, des scientifiques comme le physicien Stephen Hawking (disparu en 2018) ou l’informaticien Stuart Russell, des ONG comme l’International Committee for Robot Arms Control (Icrac), ainsi que le Comité international de la Croix-Rouge (CICR) alertent sur la nécessité de réglementer de manière très stricte les systèmes d’armes létales autonomes (Sala), comme ce fut le cas auparavant pour les armes chimiques, afin d’éviter qu’ils répandent la destruction sur leur passage de façon incontrôlable. Le CICR recommande d’interdire purement et simplement les systèmes intégrant une dimension de machine learning, qui pourraient s’adapter au champ de bataille en modifiant leurs comportements de façon imprévisible – dans le domaine des jeux de stratégie, AlphaGo a par exemple battu les meilleurs joueurs mondiaux de go en jouant des coups qu’aucun humain n’aurait jamais conçus. Ces systèmes, parce qu’ils ne répliqueront pas ce qu’ils ont fait en phase de test, sont considérés comme intrinsèquement dangereux. Un autre type de technologies inquiète : celles qui intègrent une représentation digitale d’un certain type de personnes à cibler (en caricaturant un peu, imaginons un drone programmé pour abattre toute personne ayant une djellaba et une kalachnikov). Toujours selon le comité, les autres systèmes, qui aident à localiser la cible et à paramétrer le tir tout en donnant à l’opérateur humain un délai raisonnable de décision, doivent être régulés plutôt qu’interdits. 

Le philosophe de la technologie Peter Asaro, qui codirige l’Icrac, donne un parfait exemple pour comprendre le problème que posent les « robots tueurs » : lors du Printemps arabe, sur la place Tahrir en 2011, les soldats ont reçu l’ordre de la part du régime d’Hosni Moubarak de tirer sur les manifestants, et ont finalement baissé leurs armes. Des machines ne l’auraient pas fait. Plus encore, Asaro a relevé dans un court essai d’Hannah Arendt, Sur la violence (1972), cette citation visionnaire : « Seule la constitution d’une armée de robots, qui éliminerait complètement, comme nous l’avons indiqué, le facteur humain, et permettrait à un homme de détruire quiconque en pressant simplement sur un bouton, pourrait permettre de modifier [la] prééminence fondamentale du pouvoir sur la violence. » L’argument est le suivant : dans tous les régimes, y compris totalitaires, le pouvoir garde la main sur la violence. Comme le remarque Asaro, ce que nous avons à craindre d’un monde dans lequel proliféreraient les Sala, c’est que le contrôle humain du niveau de violence s’abaisse progressivement, autrement dit que la violence prenne le dessus sur la politique.