Un bouton rouge pour éteindre les intelligences artificielles

Une intelligence artificielle sera-t-elle un jour capable d’échapper au contrôle des humains ? C’est en imaginant cette issue extrême que deux chercheurs spécialisés appellent à la création de dispositifs d’arrêt d’urgence. Parmi eux, le Français Laurent Orseau, qui travaille pour DeepMind, la filiale de Google spécialisée dans l’intelligence artificielle à l’origine d’AlphaGo, le programme qui a battu en mars l’un des champions mondiaux du jeu de go. Dans leurs recherches dont ils ont publié lundi les résultats, ils estiment qu’une machine suffisamment intelligente sera un jour capable d’élaborer des procédés imprévus pour parvenir au but pour lequel elle a été conçue. Les chercheurs citent l’exemple d’une intelligence artificielle qui a choisi de mettre indéfiniment en pause le jeu Tetris pour éviter de perdre.