Een foto van de vermeende verdachte in een diefstalzaak in Detroit, links, naast de rijbewijsfoto van Robert Williams. Een algoritme zei dat Williams de verdachte was, maar hij en zijn advocaten zeggen dat de tool een valse hit heeft opgeleverd. ACLU uit Michigan verberg ondertiteling
bijschrift schakelen
ACLU uit Michigan
De politie in Detroit probeerde erachter te komen wie vijf horloges had gestolen van een Shinola-winkel. De autoriteiten zeggen dat de dief is vertrokken met naar schatting $ 3,800 aan goederen.
Onderzoekers maakten een beveiligingsvideo waarin het incident was opgenomen. Detectives zoomden in op de korrelige beelden en lieten de verdachte door gezichtsherkenningssoftware lopen.
Een hit kwam terug: Robert Julian-Borchak Williams, 42, uit Farmington Hills, Michigan, ongeveer 25 kilometer ten noordwesten van Detroit.
In januari stopte de politie bij Williams 'huis en arresteerde hem terwijl hij op zijn voortuin stond voor zijn vrouw en twee dochters van 2 en 5 jaar die huilden terwijl ze toekeken hoe hun vader in de patrouillewagen werd geplaatst.
Zijn vrouw, Melissa Williams, vroeg waar haar man naartoe werd gebracht.
'' Google it '', herinnert ze zich een officier die haar vertelde.
Robert Williams werd in een verhoorkamer geplaatst en de politie legde drie foto's voor hem neer: twee foto's gemaakt met de bewakingscamera in de winkel en een foto van het door de staat uitgegeven rijbewijs van Williams.
'Als ik naar de foto van de man kijk, zie ik gewoon een grote zwarte man. Ik zie geen gelijkenis. Ik denk dat hij helemaal niet op mij lijkt ', zei Williams in een interview met NPR.
'[De detective] draait de derde pagina om en zegt:' Dus ik denk dat de computer het ook verkeerd heeft gedaan. ' En ik zei: 'Nou, dat ben ik', wijzend op een foto van mijn vorige rijbewijs ', zei Williams over het verhoor met rechercheurs. '' Maar die vent is mij niet '', zei hij verwijzend naar de andere foto's.
'Ik pakte het op en hield het tegen mijn gezicht en zei tegen hem:' Ik hoop dat je niet denkt dat alle zwarte mensen op elkaar lijken ',' zei Williams.
Williams werd 30 uur vastgehouden en vervolgens op borgtocht vrijgelaten tot een rechtszitting over de zaak, zeggen zijn advocaten.
Ter terechtzitting heeft een aanklager van Wayne County aangekondigd dat de aanklacht tegen Williams wordt ingetrokken.
Deskundigen op het gebied van burgerrechten zeggen dat Williams het eerste bekende voorbeeld is van een Amerikaan die ten onrechte is gearresteerd op basis van een valse hit veroorzaakt door gezichtsherkenningstechnologie.
Advocaat: kunstmatige intelligentie 'alles ingelijst en geïnformeerd'
Wat de zaak van Williams buitengewoon maakt, is dat de politie toegaf dat gezichtsherkenningstechnologie, uitgevoerd door de Michigan State Police in een misdaadlaboratorium op verzoek van de politie van Detroit, de arrestatie veroorzaakte, volgens beschuldigende documenten die door de NPR waren beoordeeld.
De jacht op Williams als mogelijke verdachte kwam ondanks herhaalde beweringen van hem en zijn advocaten dat de door kunstmatige intelligentie geproduceerde match foutief was.
De vermeende verdachte in het beeld van de beveiligingscamera droeg een rode St. Louis Cardinals-hoed. Williams, geboren in Detroit, zei dat hij die hoed in geen geval zou dragen.
'Ze hebben hem zelfs nooit vragen gesteld voordat ze hem arresteerden. Ze hebben hem nooit gevraagd of hij een alibi had. Ze hebben nooit gevraagd of hij een rode kardinaalshoed had. Ze vroegen hem nooit waar hij die dag was ', zei advocaat Phil Mayor van de ACLU in Michigan.
Woensdag diende de ACLU van Michigan een klacht in tegen de politie van Detroit met het verzoek de politie te stoppen met het gebruik van de software bij onderzoeken.
In een verklaring aan NPR zei de politie van Detroit dat de afdeling na de Williams-zaak nieuwe regels had vastgesteld. Nu kunnen alleen foto's, niet beveiligingsbeelden, worden gebruikt voor gezichtsherkenning. En het wordt nu alleen gebruikt in het geval van geweldsmisdrijven.
“Software voor gezichtsherkenning is een onderzoekstool die alleen wordt gebruikt om leads te genereren. Extra onderzoek, ondersteunend bewijs en waarschijnlijke oorzaak zijn vereist voordat een arrestatie kan plaatsvinden, ”Detroit Police Department Sgt. Nicole Kirkwood zei in een verklaring.
In het geval van Williams had de politie de bewaker van de winkel, die niet getuige was geweest van de overval, gevraagd om de verdachte uit een fotolijst te halen op basis van de beelden, en de bewaker selecteerde Williams.
Victoria Burton-Harris, advocaat van Williams, zei in een interview dat ze sceptisch is dat onderzoekers de gezichtsherkenningssoftware slechts als een van de vele mogelijke aanknopingspunten hebben gebruikt.
'Toen die technologie het gezicht van mijn cliënt eruit haalde, omlijstte het en informeerde alles wat agenten daarna deden,' zei Burton Harris.
Academisch en overheid studies hebben aangetoond dat systemen voor gezichtsherkenning mensen van kleur vaker verkeerd identificeren dan blanken.
Williams: “Laten we zeggen dat deze zaak geen winkelfraude was. Wat als het verkrachting of moord is? '
Volgens Georgetown Law's Center on Privacy and Technology, minstens een kwart van de nationale wetshandhavingsinstanties hebben toegang tot instrumenten voor gezichtsherkenning.
"Meestal worden mensen die zijn gearresteerd met gezichtsherkenning niet verteld dat gezichtsherkenning is gebruikt om hen te arresteren", zegt Jameson Spivack, een onderzoeker bij het centrum.
Terwijl Amazon, Microsoft en IBM kondigde een stop aan voor de verkoop van gezichtsherkenningstechnologie aan wetshandhavers, zei Spivack dat dit weinig effect zal hebben, aangezien de meeste grote softwarecontracten voor gezichtsherkenning met de politie gesloten zijn met kleinere, meer gespecialiseerde bedrijven, zoals het in South Carolina gevestigde DataWorks Plus, het bedrijf dat de De politie van Detroit met zijn gezichtsscansoftware.
Het bedrijf reageerde niet op een interviewverzoek.
DataWorks Plus heeft de technologie geleverd aan overheidsinstanties in Santa Barbara, Californië, Chicago en Philadelphia.
Technologie voor gezichtsherkenning wordt dagelijks door consumenten gebruikt ontgrendel hun smartphones of te tag vrienden op social media. Sommige luchthavens gebruik de technologie passagiers scannen voordat ze aan boord gaan van vluchten.
De inzet ervan door regeringen heeft echter bezorgdheid gewekt bij privacyadvocaten en experts die de machine learning-tool bestuderen en de tekortkomingen ervan benadrukt.
"Sommige afdelingen van motorvoertuigen zullen gezichtsherkenning gebruiken om licentiefraude en identiteitsdiefstal op te sporen, maar het meest voorkomende gebruik is wetshandhaving, of het nu staats-, lokale of federale wetshandhaving is," zei Spivack.
Het gebruik van gezichtsherkenningstechnologie door de overheid is in zes steden verboden.
In Michigan zei Williams dat hij hoopt dat zijn zaak een wake-up call is voor wetgevers.
'Laten we zeggen dat deze zaak geen winkelfraude was. Wat als het verkrachting of moord is?
Zou ik op persoonlijke titel uit de gevangenis zijn gekomen of zou ik ooit naar huis zijn gekomen? ' Zei Williams.
Williams en zijn vrouw Melissa maken zich zorgen over de gevolgen op lange termijn van de arrestatie voor hun twee jonge dochters.
'Toen ze zagen dat hun vader werd gearresteerd, was dat hun eerste contact met de politie. Het zal dus zeker gaan bepalen hoe zij wetshandhaving ervaren, 'zei Melissa Williams.
In zijn klacht zeggen Williams en zijn advocaten dat als de politie de technologie niet direct verbiedt, zijn foto tenminste uit de database moet worden verwijderd, dus dit gebeurt niet meer.
'Als iemand mijn naam wil opschrijven en me wil opzoeken,' zei Williams, 'wie wil er dan als dief worden gezien?'
