Les risques de discrimination par la reconnaissance faciale

Le service de police de Londres, la Metropolitan Police, a annoncé la mise en place dans la capitale britannique de caméras de surveillance à reconnaissance faciale, qui permettent d’identifier des personnes en temps réel. Dans le Guardian, la chercheuse allemande Frederike Kaltheuner, spécialisée dans l’usage de la technologie par la police, s’inquiète des risques de discrimination que peuvent engendrer de tels systèmes.

« À bien des égards, le principal souci, qui est étonnamment absent des annonces de la Metropolitan Police, est que la plupart des systèmes de reconnaissance faciale fonctionnent toujours mieux avec les visages d’hommes blancs. Même si la précision des reconnaissances s’améliore, le risque d’erreur demeure bien réel, en particulier pour les minorités ethniques. Dans les domaines avec d’importants enjeux comme le maintien de l’ordre, une erreur d’identification peut conduire à impliquer des personnes dans des crimes qu’elles n’ont pas commis. Même s’il appartient aux officiers de police de prendre la décision d’arrêter quelqu’un, des erreurs d’identification automatisées déplacent la charge de la preuve sur l’individu reconnu à tort, qui doit soudainement prouver qu’il n’est pas celui que le système dit qu’il est. » Frederike Kaltheuner