Het hoofd van de Londense Metropolitan Police, Cressida Dick, heeft critici van gezichtsherkenningstechnologie boos gemaakt door hen te beschuldigen "zeer onnauwkeurig of zeer slecht geïnformeerd" te zijn.

Die critici hebben haar op hun beurt ervan beschuldigd slecht geïnformeerd te zijn door een onafhankelijk rapport te negeren dat onthult dat de technologie zelf hoogst onnauwkeurig is: slechts in 19 procent van de gevallen.

Dick gaf de jaaradres bij de veiligheidsdenktank, Royal United Services Institute (RUSI), op maandag, en bracht het grootste deel van de toespraak door met het argument dat Britse ploeteren moderne technologie moet kunnen gebruiken om misdaad te bestrijden.

Maar terwijl hij de boodschap duwde dat ze het openbare debat verwelkomde, viel Dick degenen aan die het debat over gezichtsherkenning in de eerste plaats hadden veroorzaakt; organisaties waaronder Liberty en Big Brother Watch.

“Op dit moment lijken de hardste stemmen in het debat de critici te zijn. Soms zeer onnauwkeurig of zeer slecht geïnformeerd, ”zei ze tegen de aanwezigen. "Ik zou zeggen dat het aan critici is om tegenover de slachtoffers van die misdaden te rechtvaardigen waarom de politie technologie niet legaal en proportioneel mag gebruiken om criminelen te vangen." Je kunt haar hier bekijken:

Youtube Video

In onmiddellijke reacties beschuldigden die critici Dick van hypocrisie. "Het helpt de Met niet om een ​​serieus debat over gezichtsherkenning terug te brengen tot ongegronde beschuldigingen van 'nepnieuws'," tweeted Big Brother Kijk. "Dick zou er beter aan doen om de echte, serieuze zorgen te erkennen en ermee om te gaan - inclusief die in het vernietigende onafhankelijke rapport dat ze negeerde."

Vrijheid gereageerd Evenzo: “Feit: Met begon gezichtsherkenning te gebruiken na het negeren van zijn eigen evaluatie van een tweejarig proces waarin stond dat het gebruik van de technologie de mensenrechten niet respecteerde. Nog een feit: bangmakerij en kritiek uiten in plaats van boeiend, laat zien hoe zwak hun basis is om het te gebruiken. "

And it’s true

Die beschuldigingen zijn waar. Zoals we in het verleden hebben gemeld, zijn de Met-pilotprogramma's voor live gezichtsherkenning een complete mislukking geweest. De eerste proef op het Notting Hill Carnival in 2016 resulteerde in geen enkele persoon geïdentificeerd worden. Het jaar daarop werd het proces herhaald, ondanks een aantal groeperingen die opriepen om het te verbieden.

Nogmaals, het was een buste: niemand werd geïdentificeerd, maar 35 valse positieven werden geregistreerd. Desondanks ging de Britse regering door met een contract van 4.6 miljoen pond (5.9 miljoen dollar) voor gezichtsherkenningssoftware.

De Londense Metropolitan Police zet de schakelaar om: glimlach, medeburgers ... je ondergaat Live Facial Recognition

LEES VERDER

Vorig jaar meldde een onafhankelijk rapport op basis van toegang dat de onderzoekers - professor Fussey en dr. Murray van de Universiteit van Essex - hadden gekregen voor de laatste zes 'proeven' van de politie, dat het systeem slechts acht correcte overeenkomsten had gemaakt. van de in totaal 42 voorgestelde.

Zij ook gesloten dat de processen waarschijnlijk illegaal waren omdat ze geen rekening hielden met de naleving van de mensenrechten. Murray zei: "Dit rapport geeft aanleiding tot grote bezorgdheid over de naleving van de mensenrechtenwetgeving van de processen ... De juridische basis voor de processen was onduidelijk en het is onwaarschijnlijk dat deze voldoet aan de toets 'in overeenstemming met de wet' die is vastgelegd in de mensenrechtenwetgeving."

Ze riepen op om alle live proeven van gezichtsherkenning stop te zetten totdat een reeks problemen was opgelost, waaronder een passend niveau van publieke controle en debat op nationaal niveau.

Bovendien waren de angsten over hoe de technologie door de politie ter plaatse zal worden gebruikt gezien een serieuze geloofwaardigheid toen een man zijn gezicht verborg voor een proces dat in Romford, in Oost-Londen, werd gebruikt. Hij werd apart gezet door de politie, die besloot dat dergelijk gedrag verdacht was en een boete van £ 90 ($ 115) kreeg wegens 'wanordelijk gedrag'.

Schuldig tot onschuldig bewezen

Toevallig filmde een filmploeg op dat moment en sprak daarna met de man. "Ik zei: 'Ik wil nergens mijn gezicht laten zien'," vertelde hij de filmploeg. 'Als ik mijn gezicht wil bedekken, zal ik mijn gezicht bedekken. Het is niet aan hen om niet te zeggen dat ik mijn gezicht moet bedekken. "

In reactie op de mislukte processen, een rapport waarin werd beweerd dat het systeem illegaal was, en een man die werd vastgehouden en beboet omdat hij weigerde te worden gefilmd, de Met - with steun van de minister van Binnenlandse Zaken - formeel goedgekeurd zijn gezichtsherkenningssysteem eerder deze maand.

Wat de toespraak van Dick vanmorgen betreft, merkte ze op dat het niet haar positie was om te beslissen 'waar de grens ligt tussen veiligheid en privacy' voordat ze haar mening gaf 'als een lid van het publiek'. Die mening was, in haar eigen woorden, openhartig.

"In een tijdperk van Twitter, Instagram en Facebook voelt de bezorgdheid over mijn imago en dat van mijn mede-gezagsgetrouwe burgers die LFR [live gezichtsherkenning] passeren en niet worden opgeslagen, veel, veel kleiner aan dan de vitale verwachting van mij en het publiek om beschermd worden tegen een mes door de borst. "

Ze noemde ook verschillende 'mythes' rond gezichtsherkenning: dat de Met de foto's opslaat die het van mensen maakt (het slaat alleen foto's op van mensen die door de software als potentiële verdachte worden geïdentificeerd en verwijdert die gegevens binnen 31 dagen, tenzij ze nodig zijn als bewijsmateriaal). ); dat de software beslissingen neemt - Dick zegt dat een menselijke koper altijd de uiteindelijke beslissing neemt; dat het voor alle soorten criminaliteit zal worden gebruikt - Dick zegt dat het alleen voor zware criminaliteit zal worden gebruikt; dat de software intrinsieke vooroordelen heeft - Dick beweert dat "bewezen is dat de technologie die we inzetten geen etnische vooringenomenheid heeft"; en dat de Met geheimzinnig is over de technologie - Dick zegt dat de Met "er volledig open en transparant over is geweest."

Op zoek naar transparantie

Meerdere van die argumenten zijn ook verdacht. De database die wordt gebruikt om mensen die langs de camera's lopen te vergelijken met afbeeldingen van verdachte criminelen bevat, wordt verondersteld 12.5 miljoen gezichten te bevatten - ver verwijderd van de bewering dat alleen "ernstige misdaad" door het systeem wordt beschouwd.

En ondanks haar beweringen dat de Met "volledig open en transparant" is geweest over de processen, is de realiteit dat er een verzoek om vrijheid van informatie nodig was krijg statistieken van de Met over hoe ondoelmatig zijn systemen zijn.

Ondanks dat de politie erop aandringt dat het systeem werkt, heeft het in werkelijkheid een gemiddeld percentage valse positieven - waarbij het systeem iemand die niet op de lijst staat "identificeert - van 91 procent in het hele land. Dat betekent dat 91 procent van degenen die door het systeem werden aangemerkt als mogelijke criminelen, onschuldig waren en ten onrechte waren geïdentificeerd.

The Met omzeilt deze tekortkomingen door te argumenteren - zoals Dick vandaag deed - dat een menselijke politieagent de uiteindelijke beslissing neemt om iemand te benaderen door te vergelijken wat het systeem had vastgelegd met een foto in de database. Het is dus de politieagent die de schuld heeft, niet de computer die ze instrueert.

In plaats daarvan concentreerde Dick zich op het beperkte succes van het systeem. "De processen van de Met tegen LFR resulteerden in de arrestatie van acht gezochte personen die we anders zeer waarschijnlijk niet zouden hebben geïdentificeerd," voerde ze aan. "Zonder LFR zouden de acht personen die gezocht werden omdat ze schade hadden aangericht, waarschijnlijk niet zijn gearresteerd."

Ze beweerde toen open te staan ​​voor ernstige zorgen over het systeem. “Ik pleit natuurlijk niet per se tegen kritiek. Zoals John Stuart Mill adviseerde, komt de waarheid naar voren door ideeën en argumenten bloot te stellen aan oppositie en tegenvorderingen of een open debat. Ideeën waarmee geen concurrenten te maken hebben, missen een manier om hun waarde te bewijzen. "

Als resultaat zei ze dat ze recente rapporten had gelezen "ter voorbereiding op de toespraak van vandaag", waaronder een van Lord Evans over AI en openbare standaarden, en onderzoek door RUSI vandaag gepubliceerd.

Dus we zijn het allemaal eens?

Toevallig kwamen de auteurs van beide rapporten na haar toespraak samen met Dick voor een korte paneldiscussie. Lord Evans - die, moet worden opgemerkt, het hoofd was aan de Britse interne veiligheidsdienst, MI5 - voerde aan dat de "algemene conclusie" van zijn rapport was dat er "een zeer positief potentieel voor technologie" was, maar dat er vooral "gaten en kwetsbaarheden" zijn. rond "openheid, verantwoordelijkheid en objectiviteit".

De auteur van het RUSI-rapport, Alexander Babuta, identificeerde ook 'hiaten' - met name de 'afwezigheid van een nationaal kader' en voerde aan dat er een 'effectbeoordeling moest worden uitgevoerd' voorafgaand aan het gebruik van moderne technologieën zoals kunstmatige intelligentie of gezichtsbehandeling. herkenning.

Maar hij voerde ook aan dat het te lang zou duren om te wachten tot er wetgeving is aangenomen voor de politie om dergelijke technologieën niet uit te proberen, met het argument dat ze 'niet kan wachten' en dat er zo snel mogelijk een beleidskader en nationale richtlijnen moeten komen. als mogelijk.

Wat Babuta niet opmerkte - maar zijn rapport wel - is dat de kwestie van gezichtsherkenning specifiek niet tot de opdracht van zijn rapport behoorde. "Biometrische technologie, waaronder live gezichtsherkenning, DNA-analyse en matching van vingerafdrukken, vallen buiten de directe reikwijdte van deze studie, net als geheime bewakingsmogelijkheden en digitale forensische technologie, zoals data-extractie van mobiele telefoons en computerforensisch onderzoek", luidt het.

Geconfronteerd met twee machtige gevestigde waarden op hetzelfde podium, bagatelliseerde Babuta ook het feit dat in zijn rapport "het gebrek aan bewijsmateriaal, de slechte gegevenskwaliteit en onvoldoende vaardigheden en expertise als drie belangrijke belemmeringen voor een succesvolle implementatie worden genoemd."

Het gaat verder: “In het bijzonder wordt de ontwikkeling van politie-algoritmen vaak niet onderbouwd door een robuust empirisch bewijs met betrekking tot hun geclaimde voordelen, wetenschappelijke validiteit of kosteneffectiviteit. Een duidelijke business case ontbreekt dan ook vaak. ”

Met andere woorden, er is geen bewijs dat de systemen echt werken.

Oh zeg dat je niet kunt zien, bij het vroege licht van de dageraad ...

Wat betreft een van de grootste zorgen van voorvechters van privacy en burgerlijke vrijheidsgroepen - dat gezichtsherkenningstechnologie intrinsieke vooroordelen heeft tegen bepaalde groepen, met name minderheden - dat ernstige probleem werd terzijde geschoven.

Zal Police Scotland realtime discriminatie-blije gezichtsherkenningstechnologie gebruiken? Senior agent vertelt ons: voorlopig niet

LEES VERDER

Dick beweerde dat "bewezen is dat de technologie die we inzetten geen etnische vooringenomenheid heeft." Ze vervolgde: “We weten dat er enkele goedkope technologieën zijn die vooringenomen zijn, maar zoals ik al zei, de onze niet. Momenteel is het enige vooroordeel dat het laat zien dat het iets moeilijker is om een ​​gezochte vrouw te identificeren dan een gezochte man. "

Het is niet duidelijk waar dat "bewijs" vandaan kwam, maar Babuta deed de hele kwestie van rassendiscriminatie in feite af als een Amerikaans probleem. Racisme, zo lijkt het, komt waarschijnlijk niet voor bij de Britse politie.

“Hoewel voorspellende politiehulpmiddelen veel kritiek hebben gekregen omdat ze 'raciaal bevooroordeeld' zijn, met beweringen dat ze individuen uit bepaalde minderheidsgroepen te veel voorspellen, is er een gebrek aan voldoende bewijs om te beoordelen in hoeverre de politie daadwerkelijk gebruik maakt van algoritmen. in de praktijk in Engeland en Wales, en of dit leidt tot onwettige discriminatie ”, stelt het rapport - een argument dat hij ook op het podium aanvoerde.

"De meeste onderzoeken die raciale vooringenomenheid in politiealgoritmen aantonen, zijn gebaseerd op analyses uitgevoerd in de VS, en het is onduidelijk of deze zorgen overdraagbaar zijn naar de Britse context."

Hieruit is niet duidelijk of degenen die aandringen op gezichtsherkenningstechnologie in het VK vinden dat zwarte mensen er in Groot-Brittannië anders uitzien dan in de Verenigde Staten, of dat ze gewoon geloven dat Amerikaanse agenten racistischer zijn.

Maar het afwijzen van een schat aan bewijs dat dergelijke software een aanzienlijk risico op raciale vooroordelen met zich meebrengt, omdat Groot-Brittannië zich geen zorgen hoeft te maken over iets waar Groot-Brittannië zich geen zorgen over hoeft te maken, was enigszins rijk, afkomstig van een panel dat geen critici of zelfs iemand uit een minderheid omvatte.

Het grote publieke debat dat door de Met en de Britse regering is beloofd over gezichtsherkenningstechnologie zal schijnbaar beperkt blijven tot degenen die het er al mee eens zijn. ®

Gesponsorde: Cyberaanvallen detecteren als een kleine tot middelgrote onderneming