Début janvier, Robert Williams a passé 30 heures en détention parce qu'un logiciel avait jugé identique la photo de son permis de conduire et l'image d'un voleur de montres capturée par des caméras de surveillance, selon une plainte déposée mercredi à Détroit. Il s'agit de la première erreur de ce type documentée aux Etats-Unis.
L'homme, Afro-Américain, avait été arrêté et menotté devant chez lui, en présence de sa femme et de ses deux filles âgées de 2 et 5 ans. "Comment expliquer à deux petites filles qu'un ordinateur s'est trompé mais que la police l'a quand même écouté?", écrit-il dans une tribune publiée par le Washington Post.
Selon son récit, après une nuit en cellule, des agents lui ont demandé s'il était déjà allé dans une bijouterie de Détroit, une grande ville industrielle du Nord, et lui ont montré deux photos floues d'un homme noir. "J'ai pris le papier et je l'ai mis près de mon visage en disant : j'espère que vous ne pensez pas que tous les hommes noirs se ressemblent. Les policiers se sont regardés et l'un d'eux a dit "l'ordinateur a dû se tromper", raconte-t-il.
La technologie de reconnaissance faciale, utilisée depuis plusieurs années par différents services de police aux Etats-Unis sans cadre légal fédéral, est accusée de manquer de fiabilité dans l'identification des minorités, notamment noires ou asiatiques.
Boston y renonce
Selon une étude du MIT, le taux d'erreur est de 35% pour les femmes noires. Si ce biais racial lié à des bases de données comprenant plus de modèles blancs que noirs est connu, aucun cas précis d'erreur n'avait jusque-là été documenté.
Depuis la mort de George Floyd, un quadragénaire noir asphyxié par un policier blanc à Minneapolis le 28 mai, les Américains réclament, lors de manifestations dans tout le pays, des réformes de la police et les militants plaident notamment pour l'abandon de cette technologie.
Plusieurs entreprises, soucieuses de répondre à cette mobilisation, comme Amazon, IBM ou Microsoft ont suspendu la vente de ces logiciels d'identification à la police, tant que des règles claires n'auront pas été fixées.
LIRE AUSSI >>La reconnaissance faciale : nouvelle menace pour nos libertés ?
Mercredi, le conseil municipal de Boston, sur la côte atlantique, a voté l'interdiction pour les agents municipaux d'utiliser la reconnaissance faciale, devenant la deuxième plus grosse ville au monde après San Francisco, dans l'ouest, à prendre cette décision.
Dans la plainte administrative déposée à Détroit, la puissante association de défense des droits civiques ACLU demande à la ville de renoncer à son tour à cette technologie, mais aussi que le casier judiciaire de Robert Williams soit purgé de toute référence à cet incident.
Bachelet souhaite un moratoire
La Haut-Commissaire de l'ONU aux droits de l'Homme, Michelle Bachelet a plaidé ce jeudi pour un "moratoire" sur l'utilisation de la technologie de reconnaissance faciale lors des manifestations pacifiques, craignant qu'elle n'amplifie les discriminations notamment à l'encontre des personnes d'origine africaine.
"La reconnaissance faciale ne devrait pas être utilisée dans le cadre de manifestations pacifiques sans la mise en place de garanties essentielles en matière de transparence, de protection des données et de surveillance", a déclaré Michelle Bachelet, dans un communiqué.
Son appel est au coeur d'un rapport que le Haut-Commissariat a publié jeudi, examinant l'impact des nouvelles technologies sur la protection des droits humains dans le contexte des rassemblements, y compris des manifestations pacifiques.
LIRE AUSSI >> Reconnaissance faciale : pas de panique !
Ce rapport avait été demandé il y a deux ans par le Conseil des droits de l'Homme de l'ONU, mais sa publication intervient alors que les manifestations, notamment en réponse à la discrimination structurelle et raciale et à l'aggravation des conditions socio-économiques se multiplient dans le monde.
Selon le Haut-Commissariat, de nombreuses personnes n'osent plus manifester dans des lieux publics et exprimer librement leurs opinions, car elles craignent d'être identifiées par la surveillance et le suivi automatisés des manifestants et d'en pâtir.
En outre, relève-t-il, "la technologie de reconnaissance faciale risque de perpétuer et d'amplifier la discrimination, notamment à l'encontre des personnes d'ascendance africaine et d'autres minorités".