Faire la morale aux robots

Le cours des événements de l’année écoulée aurait-il été différent si, pour reprendre la déclaration d’Olivier Véran, derrière toute décision prise par le gouvernement se cachait non pas une blouse blanche mais un supercalculateur ? Non, répond Martin Gibert, chercheur en éthique de l’intelligence artificielle. Tout simplement parce que ce qu’on appelle l’« éthique des algorithmes » repose toujours sur la décision des programmateurs. Ceux-ci sont souvent des hommes blancs hétérosexuels bien portants, qui façonnent des algorithmes à leur image. Même si ces biais sont corrigés, la question demeure : quels principes éthiques encoder dans nos machines ? Pour y répondre, on oppose souvent l’éthique déontologique (la machine obéit à des règles morales préalables) à l’éthique utilitariste (pour chaque décision, la machine calcule le bénéfice qui en découle pour la société). Martin Gibert appelle de ses vœux une troisième voie : le « triomphe des robots vertueux ». Il replace ainsi au cœur des questionnements éthiques contemporains la notion aristotélicienne de phronèsis – « sagesse pratique » – et formule une proposition ambitieuse : « Ce qu’il faut, c’est choisir de bons exemples pour faire de bons robots », soit un robot qui combinerait Jésus, Greta Thunberg et Gandhi. Mais qui pourrait – et souhaiterait ! – vivre entouré de monstres glaçants de vertu ?