Quand l’IA réécrit l’histoire au nom de la diversité

Google a décidé de momentanément suspendre la création d’images de personnes par Gemini, son intelligence artificielle générative. En cause : le scandale suscité par cette dernière, qui a notamment proposé des images de nazis noirs ou de vikings asiatiques. Quels enseignements tirer de cette drôle d’histoire ? Analyse, en compagnie de la chercheuse Laurence Devillers, spécialiste en robotique et en intelligence artificielle. 

Un peintre de la Renaissance aux traits asiatiques, une femme pape, des Pères fondateurs des États-Unis indiens… L’intelligence artificielle de Google s’est attirée les foudres et moqueries d’internautes, l’accusant à juste titre de révisionnisme historique. Il était en effet pour le moins inattendu d’obtenir un homme noir après avoir demandé à Gemini de générer un soldat allemand de 1943, ou bien une femme quand la sollicitation était d’avoir un pape, dont les modèles réels ne sont que des hommes blancs. Comment expliquer que cette IA ait pu générer des images aussi absurdes ?

Pour l’instant, Google n’a pas ouvert la boîte noire. Plaidant le « bug », le groupe s’est contenté de suspendre cette fonctionnalité le temps de rectifier le tir. L’hypothèse la plus probable est cependant que la firme américaine ait fait preuve d’une forme de zèle dans l’exigence, qui lui est apparemment chère, de diversité. Comme elle craint de reproduire ou d’amplifier les préjugés du monde réel en associant systématiquement hommes blancs et figures de pouvoir, elle aura cherché à anticiper les choses en mettant en place un programme demandant à son outil de ne pas oublier, en quelque sorte, les minorités raciales ou de genre. Souhaitant concurrencer Dall-E, le logiciel d’OpenAI lui-même accusé de surreprésenter les Blancs dans ses images d’individus occupant des postes à responsabilité, Google aurait simplement forcé le trait, mettant en avant, jusqu’à l’absurde, des images de femmes ou d’individus non blancs, y compris à des endroits où ils n’ont historiquement pas pu être.