Radio Nationale Publique

'L'ordinateur s'est trompé': comment la reconnaissance faciale a conduit à une fausse arrestation dans le Michigan

En cliquant sur ce bouton,

on

Une photo du suspect présumé dans un cas de vol à Détroit, à gauche, à côté de la photo du permis de conduire de Robert Williams. Un algorithme a déclaré que Williams était le suspect, mais lui et ses avocats disent que l'outil a produit un faux coup. ACLU du Michigan cacher la légende

bascule légende

ACLU du Michigan

La police de Détroit essayait de découvrir qui avait volé cinq montres dans un magasin de détail Shinola. Les autorités disent que le voleur a décollé avec une valeur estimée à 3,800 XNUMX $ de marchandises.

Les enquêteurs ont tourné une vidéo de sécurité qui avait enregistré l'incident. Les détectives ont zoomé sur les images granuleuses et ont exécuté la personne qui semblait être le suspect via un logiciel de reconnaissance faciale.

Un coup est revenu: Robert Julian-Borchak Williams, 42 ans, de Farmington Hills, Michigan, à environ 25 milles au nord-ouest de Détroit.

En janvier, la police s'est arrêtée au domicile de Williams et l'a arrêté alors qu'il se tenait sur sa pelouse devant sa femme et ses deux filles, âgées de 2 et 5 ans, qui ont pleuré en regardant leur père être placé dans la voiture de patrouille.

Sa femme, Melissa Williams, a demandé où son mari était emmené.

"Google it", se souvient-elle d'un officier lui disant.

Robert Williams a été placé dans une salle d'interrogatoire et la police a mis trois photos devant lui: deux photos prises de la caméra de surveillance dans le magasin et une photo du permis de conduire délivré par l'État de Williams.

«Quand je regarde la photo du gars, je vois juste un grand noir. Je ne vois aucune ressemblance. Je ne pense pas du tout qu'il me ressemble », a déclaré Williams lors d'une interview avec NPR.

«[Le détective] retourne la troisième page et dit:« Donc, je suppose que l'ordinateur s'est aussi trompé. » Et j'ai dit: «Eh bien, c'est moi», montrant une photo de mon précédent permis de conduire », a déclaré Williams à propos de l'interrogatoire avec des détectives. "Mais ce type n'est pas moi", a-t-il dit en se référant aux autres photographies.

«Je l'ai ramassé, je l'ai tenu contre mon visage et je lui ai dit: 'J'espère que vous ne pensez pas que tous les Noirs se ressemblent», a déclaré Williams.

Williams a été détenu pendant 30 heures, puis libéré sous caution jusqu'à l'audience sur l'affaire, selon ses avocats.

Lors de l'audience, un procureur du comté de Wayne a annoncé que les charges contre Williams étaient abandonnées.

Les experts en droits civils disent que Williams est le premier exemple connu d'un Américain arrêté à tort sur la base d'un faux coup produit par la technologie de reconnaissance faciale.

Avocat: l'intelligence artificielle «encadre et informe tout»

Ce qui rend le cas de Williams extraordinaire, c'est que la police a admis que la technologie de reconnaissance faciale, menée par la police de l'État du Michigan dans un laboratoire de criminalité à la demande du département de police de Détroit, avait provoqué l'arrestation, selon des documents d'accusation examinés par NPR.

La poursuite de Williams en tant que suspect possible est survenue malgré les affirmations répétées de lui et de ses avocats selon lesquelles le match produit par l'intelligence artificielle était défectueux.

Le suspect présumé sur l'image de la caméra de sécurité portait un chapeau rouge des St. Louis Cardinals. Williams, originaire de Detroit, a déclaré qu'il ne porterait en aucun cas ce chapeau.

«Ils ne lui ont même jamais posé de questions avant de l'arrêter. Ils ne lui ont jamais demandé s'il avait un alibi. Ils n'ont jamais demandé s'il avait un chapeau rouge de cardinaux. Ils ne lui ont jamais demandé où il se trouvait ce jour-là », a déclaré l'avocat Phil Mayor de l'ACLU du Michigan.

Mercredi, l'ACLU du Michigan a déposé une plainte contre le département de police de Detroit demandant que la police cesse d'utiliser le logiciel dans les enquêtes.

Dans une déclaration à NPR, le département de police de Detroit a déclaré qu'après l'affaire Williams, le département avait promulgué de nouvelles règles. Désormais, seules les photos fixes, et non les séquences de sécurité, peuvent être utilisées pour la reconnaissance faciale. Et il n'est désormais utilisé qu'en cas de crimes violents.

«Le logiciel de reconnaissance faciale est un outil d'investigation utilisé uniquement pour générer des leads. Des travaux d'enquête supplémentaires, des preuves corroborantes et une cause probable sont nécessaires avant qu'une arrestation ne puisse être effectuée », détective Police Department Department Sgt. Nicole Kirkwood a déclaré dans un communiqué.

Dans le cas de Williams, la police avait demandé au garde de sécurité du magasin, qui n'avait pas été témoin du vol, de choisir le suspect dans une liste de photos basée sur les images, et le gardien de sécurité a sélectionné Williams.

Victoria Burton-Harris, l'avocate de Williams, a déclaré dans une interview qu'elle est sceptique quant au fait que les enquêteurs n'ont utilisé le logiciel de reconnaissance faciale que comme l'une des pistes possibles.

«Lorsque cette technologie a choisi le visage de mon client, elle a cadré et informé tout ce que les agents ont fait par la suite», a déclaré Burton Harris.

Académique et gouvernement des études ont démontré que les systèmes de reconnaissance faciale identifient plus mal les personnes de couleur que les personnes blanches.

Williams: «Disons que ce cas n'était pas une fraude au détail. Et si c'est un viol ou un meurtre? »

Selon le Centre sur la confidentialité et la technologie de Georgetown Law, au moins un quart des forces de l'ordre du pays ont accès à des outils de reconnaissance faciale.

«La plupart du temps, les personnes arrêtées par reconnaissance faciale ne sont pas informées que la reconnaissance faciale a été utilisée pour les arrêter», a déclaré Jameson Spivack, chercheur au centre.

Alors qu'Amazon, Microsoft et IBM ont a annoncé un arrêt aux ventes de technologie de reconnaissance faciale aux forces de l'ordre, Spivack a déclaré que cela aura peu d'effet, car la plupart des principaux contrats de logiciels de reconnaissance faciale avec la police sont conclus avec des sociétés plus petites et plus spécialisées, comme DataWorks Plus, en Caroline du Sud, qui est la société qui a fourni le Detroit Police Department avec son logiciel de numérisation faciale.

L'entreprise n'a pas répondu à une demande d'entrevue.

DataWorks Plus a fourni la technologie aux agences gouvernementales de Santa Barbara, en Californie, de Chicago et de Philadelphie.

La technologie de reconnaissance faciale est utilisée quotidiennement par les consommateurs pour déverrouiller leurs smartphones ou pour tag amis sur les réseaux sociaux. Quelques aéroports utiliser la technologie pour scanner les passagers avant d'embarquer.

Son déploiement par les gouvernements, cependant, a suscité l'inquiétude des défenseurs de la vie privée et des experts qui étudient l'outil d'apprentissage automatique et ont mis en évidence ses défauts.

"Certains départements des véhicules à moteur utiliseront la reconnaissance faciale pour détecter la fraude aux licences, le vol d'identité, mais l'utilisation la plus courante est l'application de la loi, que ce soit l'application de la loi d'État, locale ou fédérale", a déclaré Spivack.

L'utilisation par le gouvernement de la technologie de reconnaissance faciale a été interdite dans une demi-douzaine de villes.

Dans le Michigan, Williams a déclaré qu'il espérait que son cas serait un signal d'alarme pour les législateurs.

«Disons que ce cas n'était pas une fraude au détail. Et si c'est un viol ou un meurtre?
Serais-je sorti de prison avec un lien personnel ou serais-je jamais rentré à la maison? » Dit Williams.

Williams et sa femme, Melissa, s'inquiètent des effets à long terme de l'arrestation sur leurs deux jeunes filles.

«Voir leur père se faire arrêter, c'était leur première interaction avec la police. Donc, cela va certainement façonner la façon dont ils perçoivent l'application de la loi », a déclaré Melissa Williams.

Dans sa plainte, Williams et ses avocats disent que si le service de police n'interdit pas la technologie, alors au moins sa photo devrait être supprimée de la base de données, donc cela ne se reproduira plus.

"Si quelqu'un veut me retirer et me chercher", a déclaré Williams, "qui veut être considéré comme un voleur?"

Source: https://www.npr.org/2020/06/24/882683463/the-computer-got-it-wrong-how-facial-recognition-led-to-a-false-arrest-in-michig? utm_medium = RSS & utm_campaign = actualités

Tendance

Droits d'auteur © 2020 Plato Technologies Inc.