Pourquoi les intelligences artificielles risquent de devenir folles

Les intelligences artificielles actuelles ont besoin de données abondantes pour générer des textes et des images. Mais comme de plus en plus de contenus sont désormais générés par les IA elles-mêmes, les informations de base vont peu à peu se retrouver faussées. C’est ainsi que le web se retrouve peu à peu rempli de contenus générés par ChatGPT, MidJourney et autre StableDiffusion… qui sont hautement toxiques pour les performances de ces mêmes systèmes.

C’est ce risque de « maladie de la vache folle » de l’IA que pointe une récente étude, et que nous explique Nicolas Gastineau chez nos confrères de Philonomist.