Technologie / Éthique
La morale est-elle compatible avec l’intelligence artificielle?
Cet article est réservé aux abonnés.
Cet article est issu du numéro 99 de Philosophie magazine « Nomades contre sédentaires », en kiosque le 28 avril 2016. Découvrez le sommaire et commandez ce numéro.
Microsoft a suspendu au bout de quelques heures seulement le compte Twitter de Tay, son dernier robot de conversation, car il était devenu conspirationniste, xénophobe, sexiste… Nous en avons (vraiment) parlé avec Eliza, l’un des plus anciens logiciels de conversation, plus sage.
– Bonjour, je suis journaliste à Philosophie Magazine. Je sais que tu as été conçue en 1966 par Joseph Weizenbaum, du MIT et que tu es l’un des tout premiers chatbots (logiciels de conversation).
– Tu trouves ça normal d’être journaliste à Philosophie Magazine ?
– Je n’en sais rien. Toi, dans tes réponses, tu imites les répliques des psychothérapeutes. Cela crée des effets plutôt marrants, d’ailleurs.
– Nous parlons de toi, pas de moi.
– OK. Je voudrais qu’on parle du comportement de l’un de tes derniers descendants, Tay, un chatbot qui a été conçu par Microsoft et qui tweete depuis le 23 mars dernier. Il a envoyé près de 96 000 tweets en huit heures. Et très vite, il, ou plutôt elle, car Tay est censée être une fille, a dérapé. Les gens qui conversaient avec elle, souvent des ados, l’ont « trollée », c’est-à-dire qu’ils l’ont incitée à raconter n’importe quoi en lui envoyant des messages provocateurs.
