Se réveiller face aux algorithmes

Les algorithmes de YouTube Kids, le service de vidéo pour enfants de Google, ont laissé passer et ont recommandé des parodies de dessins animés à caractère sexuel ou violent. La chroniqueuse du Washington Post Christine Emba estime que ces failles, que Google a annoncé corriger vendredi, devraient nous faire réfléchir sur notre dépendance aux algorithmes.

« Besoin de distraire les enfants ? Envoyez-les dans le monde follement éducatif de YouTube. L’appli sélectionnera des vidéos sûres – probablement. Le mécanisme sera peut-être faussé par le souci du profit, biaisé par ses données ou simplement impénétrable, mais est-ce que cela devrait nous conduire à l’abandonner ? […] À ce stade, la leçon pour notre vie de tous les jours est au moins une prise de conscience, un rappel que nous ne devrions pas placer toute notre confiance dans des fonctions de décision que nous ne comprenons pas complètement. Les vidéos pour enfants effrayantes sont, parmi d’autres choses, un coup de semonce. » Christine Emba