Bioéthique
“Garantie humaine” contre l’IA : un principe pour les irresponsables ?
La machine coupable. © Jesse Chan/Unsplash
Cet article est réservé aux abonnés.
Fortement critiqué de son vivant pour sa théorie de l’autonomie de la technique, Jacques Ellul semble avoir anticipé les problématiques soulevées par l’IA. La responsabilité de l’humain s’efface devant l’autonomie des « machines apprenantes »... Alors, contre qui le patient peut-il se retourner en cas d’erreur de diagnostic par l’algorithme ? Le principe de « garantie humaine » entend poser des gardes-fous. Explications.
Appliquée à la santé, l’IA promet de déceler de futures maladies par l’analyse d’une quantité de données incommensurable pour l’esprit d’un seul homme. Par exemple, l’algorithme serait capable de prédire des cancers sur plusieurs décennies sur la base de radiographies et de signaux indétectables à l’œil nu. Mais en cas d’erreurs, comment l’humain peut-il être responsable de ce qu’il ne comprend pas ?
Imaginez un instant que les données récoltées par l’algorithme comportent des erreurs, ou encore que le chemin emprunté par l’IA soit faussé. Le diagnostic serait donc erroné et le traitement inadapté, entraînant de sérieuses complications pour la santé du patient. C’est là tout l’enjeu du principe de « garantie humaine », discuté en ce moment à l’Assemblée et au Sénat, face à l’autonomie des algorithmes.
De troubles définitions
« Intelligence artificielle » et « garantie humaine » ne font pas l’objet de définitions unifiées. Pour l’IA, les normes européennes et françaises discutent de « prise de décision automatisée », de « machine apprenante », ou encore de « traitement algorithmique de données massives ». Autrement dit, l’humain assigne des objectifs à un algorithme (un calcul), qui va traiter une grande quantité de données. Mais puisque l’homme n’est pas capable de les analyser par lui-même, il n’a pas conscience du chemin que l’algorithme emprunte pour obtenir son résultat. Autonome dans son raisonnement, l’algorithme est dit « intelligent ». Mais où est passée l’autonomie de l’humain ?
