Bir sürücü kimlik sistemi için Uber'in yüz tanıma teknolojisini kullanması, Birleşik Krallık'ta App Drivers & Couriers Union (ADCU) ve Worker Info Exchange'in (WIE) Microsoft'tan araç çağıran devin B2B yüz tanıma Sürücülerin yanlış tanımlandığı ve işletme ruhsatlarının Transport for London (TfL) tarafından iptal edildiği birden fazla vakayı bulduktan sonra.

Sendika, sürücülerin işlerini kaybetmelerine ve TfL tarafından yapılan ehliyet iptaline yol açan yedi "başarısız yüz tanıma ve diğer kimlik kontrolleri" vakası tespit ettiğini söyledi.

Uber, İngiltere'de "Gerçek Zamanlı Kimlik Kontrolü" sistemini başlattığında Nisan 2020"Sürücü hesaplarının, Gelişmiş DBS kontrolünden geçen lisanslı kişiler dışında hiç kimse tarafından kullanılmadığını doğrulayacağını" söyledi. Ardından, sürücülerin "selfie'lerinin fotoğraf karşılaştırma yazılımı ile mi yoksa insan incelemecilerimiz tarafından mı doğrulanacağını seçebileceklerini" söyledi.

Bir yanlış tanımlama vakasında ADCU, sürücünün Uber tarafından işten çıkarıldığını ve ehliyetinin TfL tarafından iptal edildiğini söyledi. Sendika, Uber ve TfL'yi kararlarını tersine çevirmeye zorlayarak üyeye kimliğini doğru bir şekilde oluşturmasına yardımcı olabileceğini ekliyor. Ancak Microsoft yüz tanıma teknolojisinin doğruluğu konusundaki endişelerin altını çizerek, şirketin sistemin ABD polis kuvvetlerine satışını askıya aldı Geçen yaz Black Lives Matter protestolarının ardından.

Araştırmalar, yüz tanıma sistemlerinin renkli insanları tanımlamak için kullanıldığında özellikle yüksek bir hata oranına sahip olabileceğini göstermiştir - ve ADCU, 2018 MIT çalışması Microsoft'un sisteminin% 20'ye kadar yüksek bir hata oranına sahip olabileceğini tespit etti (doğruluk koyu tenli kadınlar için en düşüktü).

Sendika, Hybrid Real Time Identification sistemlerinden elde edilen kanıtları kullanan Uber raporlarına dayanan tüm TfL özel kiralama ehliyet iptallerinin derhal gözden geçirilmesini talep etmek için Londra belediye başkanına yazıldığını söyledi.

Uber'in yüz tanıma teknolojisi lisansını askıya alma çağrısına ilişkin yorum yapmak için Microsoft ile temasa geçildi.

ADCU, Uber'in Birleşik Krallık başkentinde çalışma lisansını yeniden kazanmak için uygulanan bir önlem paketinin bir parçası olarak bir işgücü elektronik gözetim ve tanımlama sistemi uygulamaya koştuğunu söyledi.

Back 2017, TfL, Uber'e lisans yenileme hakkı vermeme konusunda şok edici bir karar verdi - süreçleri üzerindeki düzenleyici baskıyı artırarak ve bu bekletmeyi devam ettirerek 2019 Uber'in özel kiralık araç lisansına sahip olmayı bir kez daha “uygun ve uygun olmadığını” kabul etmesi.

Güvenlik ve güvenlik hataları, TfL tarafından Uber'in lisans yenilemesini durdurmanın temel nedenlerinden biriydi.

Uber, mahkemede TfL'nin kararına itiraz etti ve lisansın askıya alınmasına karşı bir itiraz daha kazandı geçen sene - ancak verilen yenileme sadece 18 aydı (beş yılın tamamı değil). Ayrıca bir çamaşırhane koşulları listesi - bu nedenle Uber, TfL'nin kalite çıtasını karşılamak için ciddi bir baskı altında kalıyor.

Şimdi, İşçi aktivistleri diğer yönden de Uber'e baskı yapıyor - ADCU'nun TfL'nin Uber'i uygulamaya teşvik ettiğini söylediği işyeri gözetim teknolojisi etrafında herhangi bir düzenleyici standardın belirlenmediğine işaret ediyor. TfL tarafından hiçbir eşitlik etki değerlendirmesi yapılmadığını da ekliyor.

WIE, TechCrunch'a, Uber'in Gerçek Kimlik kontrolünden sonra görevden alınan ve lisansının TfL tarafından iptal edilen Imran Raja adlı bir sürücü durumunda ayrımcılık davası açtığını doğruladı.

Lisansı daha sonra iade edildi - ancak ancak sendika eyleme itiraz ettikten sonra.

Uber'in yüz tanıma kontrolleri tarafından yanlış tanımlanmış bazı diğer Uber sürücüleri, WIE'ye göre Birleşik Krallık mahkemeleri aracılığıyla TfL'nin lisanslarını iptal etmesine itiraz edecek.

Bir TfL sözcüsü, Uber'in lisans yenilemesinin bir koşulu olmadığını, yüz tanıma teknolojisini uygulamak zorunda olmadığını, yalnızca Uber'in yeterli güvenlik sistemlerine sahip olması gerektiğini söyledi.

Geçici ehliyetin "sürücü kimliği" ile ilgili koşulu şu şekildedir:

Ayrıca TfL ve Birleşik Krallık Bilgi Komiserliği'nden, Uber'in Gerçek Zamanlı Kimlik Kontrolü başlatılmadan önce gerçekleştirildiğini söylediği veri koruma etki değerlendirmesinin bir kopyasını sorduk ve bunu alırsak bu raporu güncelleyeceğiz.

Bu arada Uber, sendikanın sürücü kimlik kontrolleri için yüz tanıma teknolojisini kullanmasının, hataları önlemeyi amaçlayan bir manuel (insan) inceleme sistemine sahip olduğunu söylediği için ayrımcılığı otomatikleştirme riski taşıdığı yönündeki iddiasına itiraz ediyor.

Yine de, Uber hesabını sendikanın müdahalesinden sonra geri alan (ve bir özür dileyen) Raja durumunda bu sistemin açıkça başarısız olduğunu kabul ediyor.

Uber, Gerçek Zamanlı Kimlik sisteminin, sürücünün oturum açma noktasında sunması gereken bir özçekimde otomatik bir "resim eşleştirme" kontrolü içerdiğini ve sistemin bu özçekimi dosyada tutulan (tek) bir fotoğrafla karşılaştırdığını söyledi. 

Makine eşleşmesi yoksa sistem, manuel bir kontrol yapmak için sorguyu üç kişilik bir insan inceleme paneline gönderir. Uber, birincisi kabul edemezse çeklerin ikinci bir insan paneline gönderileceğini söyledi. 

Teknoloji devi bir açıklamada bize şunları söyledi:

Gerçek Zamanlı Kimlik Kontrolümüz, doğru sürücünün veya kuryenin hesabını kullanmasını sağlayarak uygulamayı kullanan herkesin emniyetini ve güvenliğini korumak için tasarlanmıştır. Ortaya çıkan iki durum kusurlu teknolojiyi yansıtmıyor - aslında durumlardan biri sahtekarlıkla mücadele politikalarımızın doğrulanmış bir ihlaliydi, diğeri ise insan hatasıydı.

"Hiçbir teknoloji veya süreç mükemmel olmasa ve her zaman iyileştirme için yer bulunsa da, bir sürücüyü kaldırma kararından önce en az iki manuel insan incelemesinin yapılmasını sağlamak için uygulanan kapsamlı süreçle birlikte teknolojinin adil ve önemli olduğuna inanıyoruz. Platformumuzun güvenliği için.

ADCU tarafından atıfta bulunulan vakalardan ikisinde Uber, bir durumda bir sürücünün, canlı kimlik kontrolünü gerçekleştirmek için gereken bir selfie çekmek yerine Gerçek Zamanlı Kimlik Kontrolü sırasında bir fotoğraf gösterdiğini söyledi - bu nedenle, Sürücü doğru protokolü takip etmediğinden kimlik kontrolünün başarısız olması yanlış değildir.

Diğer bir örnekte Uber, hatalı bir karar veren (iki kez) manuel inceleme ekibini / ekiplerini insan hatasını suçladı. Sürücünün görünüşünün değiştiğini ve personelinin, Uber'in dosyada tuttuğu temiz traşlı fotoğraftaki aynı kişi olarak selfie gönderen (artık sakallı) adamın yüzünü tanıyamadığı belirtildi.

Uber, sendika tarafından atıfta bulunulan diğer beş kimlik kontrolü hatasında yaşananların ayrıntılarını veremedi.

Ayrıca, sendikanın kontrollerinde yanlış tanımlandığını söylediği yedi sürücünün etnik kökenini belirtmeyi de reddetti.

Gelecekte daha fazla yanlış tanımlamaya yol açan insan hatalarını önlemek için hangi önlemleri aldığı sorulan Uber, yanıt vermeyi reddetti.

Uber, bir sürücü kimlik kontrolünden geçemediğinde TfL'yi bilgilendirme görevi olduğunu söyledi - bu, Raja'nın durumunda olduğu gibi, düzenleyicinin lisansı askıya almasına yol açabilecek bir adım. Dolayısıyla, kimlik kontrol sürecindeki herhangi bir önyargı, etkilenen bireylerin çalışma kabiliyetleri üzerinde orantısız etkilere sahip olma riskini açıkça göstermektedir.

WIE bize, yalnızca yüz tanıma kontrolleriyle ilgili üç TfL lisans iptali olduğunu bildiğini söyledi.

"Devre dışı bırakılan daha fazla [UberEats] kuryesi tanıyoruz, ancak TfL tarafından lisanslanmadıkları için başka bir işlem yapılmıyor" dedi.

TechCrunch ayrıca Uber'e kaç sürücü devre dışı bırakma işlemi gerçekleştirildiğini sordu ve düzenleyiciye verdiği ifadede yüz tanımayı gösterdiği TfL'ye bildirdi - ancak teknoloji devi sorularımızı yanıtlamayı yine reddetti.

WIE, yüz tanıma kontrollerinin Uber'in gerçekleştirdiği coğrafi konum tabanlı devre dışı bırakmalara dahil edildiğine dair kanıtları olduğunu söyledi.

Bir vakada hesabı iptal edilen bir sürücüye Uber tarafından yalnızca konumla ilgili bir açıklama verildiğini, ancak TfL'nin yanlışlıkla WIE Uber'in "yüz tanıma kanıtlarını içeren" tanık ifadesini gönderdiğini söyledi.

Bu, Uber'in kimlik kontrollerinde yüz tanıma teknolojisinin daha geniş bir rol oynadığına işaret ediyor. Gerçek Zamanlı Kimlik sistemi İşler. (Yine, Uber, bununla ilgili takip sorularını yanıtlamayı veya kayıtlı beyanı ve ilgili arka plan noktalarının dışında başka herhangi bir bilgi sağlamayı reddetti.)

Ancak, sadece Uber'in Gerçek Zamanlı Kimlik sistemine odaklanıldığında bile, Uber'in insan inceleme ekibinin makine önerileri karşısında gerçekte ne kadar söz sahibi olduğu ve daha geniş iş zorunluluklarının ağırlığı (konuyla ilgili mevzuata uygunluğu kanıtlamak için akut bir ihtiyaç gibi) sorusu var. güvenlik).

WIE'nin kurucusu James Farrer, Uber'in bilinen bir ayrımcılık sorunu olan yüz tanıma teknolojisi için bir arka durdurucu olarak yerleştirdiği insan kontrollerinin kalitesini sorguluyor.

TechCrunch'a "Uber, otomatikleştirilmiş karar vermenin yasal olarak makul reddedilebilirliğini mi ifade ediyor yoksa anlamlı insan müdahalesi var mı" dedi. “Tüm bu durumlarda, sürücüler askıya alındı ​​ve uzman ekibe kendileriyle iletişime geçeceği söylendi. Genellikle bir hafta kadar sürer ve hiç kimseyle konuşmadan kalıcı olarak devre dışı bırakılır.

"Yüz tanıma sistemlerinin, insanların makineyi doğrulamak için önyargıya sahip olduğu bir uyumsuzluğu işaretlediğini gösteren bir araştırma var. Makineyi geçersiz kılmak için cesur bir insan gerekir. Bunu yapmak, makineyi, nasıl çalıştığını, sınırlamalarını anlamaları ve makineye üstün gelmek için güven ve yönetim desteğine sahip olmaları gerektiği anlamına gelir, ”diye ekledi Farrer. "Uber çalışanları, bir yandan Uber'in Londra'da faaliyet gösterme ve diğer yandan neyi dikkate alma riski taşıyor? Sürücülerin hakları yoktur ve fazlası harcanabilir. "

Ayrıca, Uber'in daha önce mahkemede şüpheden sürücüye fayda sağlamaktan ziyade müşteri şikayetleri tarafında hata yaptığını söylediğine dikkat çekti. "Bunu göz önünde bulundurarak, yüz tanıma ile dengeli bir karar vermesi için Uber'e gerçekten güvenebilir miyiz?" O sordu.

Farrer ayrıca, Uber ve TfL'nin neden sürücülere hesaplarını devre dışı bırakmak için güvenilen kanıtı göstermediğini - kararın asıl özüne itiraz ederek onlara itiraz etme şansı vermediğini sorguladı.

"IMHO bunların hepsi teknoloji yönetişimine bağlı," diye ekledi. "Microsoft yüz tanımanın güçlü ve çoğunlukla doğru bir araç olduğundan şüphem yok. Ancak bu teknolojinin yönetimi akıllı ve sorumlu olmalıdır. Microsoft bunu bir sınırlama olarak kabul edecek kadar akıllı.

"Uber'in, lisanslarını korumanın bir bedeli olarak gözetim teknolojisine baskı yapma olasılığı ... ve haksız işten çıkarılmaya karşı hiçbir işçi hakları koruması olmayan% 94 BAME işgücü felaket için bir reçetedir!"

Uber'in iş süreçleri üzerindeki son baskı, Farrer ve diğer eski Uber sürücüleri ve işçi hakları aktivistleri için büyük bir galibiyetin hemen ardından geliyor. yıllarca süren dava şirketin Birleşik Krallık yasalarına göre sürücülerin işçiler yerine "serbest meslek sahibi" oldukları şeklindeki sahte iddiası üzerine.

On Salı Uber yanıt verdi Geçen ay Yargıtay temyiz başvurusunu bozdu şimdi sürücülere piyasadaki işçiler gibi davranacağını söyleyerek sağladığı faydaları genişletir.

Ancak davacılar derhal Uber'in "anlaşmasının" Yüksek Mahkeme'nin bir sürücü Uber uygulamasında oturum açtığında çalışma süresinin hesaplanması gerektiği iddiasını görmezden geldiğine dikkat çekti. Bunun yerine Uber, bir sürücü bir işi kabul ettiğinde çalışma süresi haklarını hesaplayacağını söyledi - bu, sürücülere ücret beklerken harcanan süre için ödeme yapmaktan kaçınmaya çalıştığı anlamına geliyor.

Bu nedenle ADCU, Uber'in "teklifinin" sürücülere yasal olarak hak ettiklerinin% 40 ila% 50'si oranında ek ödeme yaptığını tahmin ediyor ve Uber sürücüleri için adil bir anlaşma elde etmek için yasal mücadelesine devam edeceğini söyledi.

Bölgesel milletvekillerinin konser çalışanları için koşulların nasıl iyileştirileceğini araştırdığı bir AB düzeyinde, teknoloji devi şimdi platform çalışması için bir istihdam yasası için bastırıyor - ve işçiler için yasal standartları düşürmeye çalışmakla suçlandı.

Ek olarak Uber ile ilgili haberler Bu ay, Hollanda'daki bir mahkeme, başka bir ADCU + WIE mücadelesinin ardından, şirkete sürücüler hakkında tuttuğu verilerin daha fazlasını teslim etmesine karar verdi. Mahkeme, sürücülerin daha fazla veri taleplerini reddetmesine rağmen. Ancak bilhassa, bir platforma karşı toplu pazarlık yapma becerilerini geliştirmek için toplu olarak bilgi elde etmek için AB yasalarına göre belirlenen veri haklarını kullanmak isteyen sürücülere itiraz etmedi - Farrer verilerini döndürürken daha fazla (ve daha dikkatli bir şekilde ifade edilmiş) zorlukların önünü açtı. işçiler için güven.

Başvuranlar ayrıca, yasal veya önemli bir etkinin olduğu durumlarda yalnızca otomatik kararlara tabi olmama hakkı sağlayan bir AB veri koruma yasası maddesi uyarınca Uber'in dolandırıcılığa dayalı sürücü sonlandırmalarına yönelik algoritmaları kullanmasını araştırmaya çalıştılar. Bu davada mahkeme, Uber'in sahtekarlıkla ilgili fesihlerin bir insan ekibi tarafından soruşturulduğu ve sonlandırma kararlarının anlamlı insan kararları içerdiği şeklindeki açıklamasını itibari değerde kabul etti.

Ancak anlamlı insan icadı / platformların algoritmik önerileri / kararlarının gözetimi konusu, hem tanrıya benzer kullanıcı görüşüne sahip güçlü platformların insan etkilerini ve toplumsal dengesizlikleri düzenleme mücadelesinde kilit bir savaş alanı olacak şekilde şekilleniyor. " veriler ve tam şeffaflık için alerji

Uber'in yüz tanıma bağlantılı sonlandırmaları kullanmasının önündeki en son zorluk, otomatik kararlarının sınırlarının ve yasallığının sorgulanmasının sona ermekten çok uzak olduğunu gösteriyor - gerçekten, bu çalışma daha yeni başlıyor.

Uber'in sürücülerin askıya alınması için coğrafi konumu kullanması da yasal zorluklarla karşı karşıyadır.

Pan-AB mevzuatı şu anda bloğun kurumları tarafından müzakere edilirken, platform şeffaflığı gereksinimlerini artırın - yakın gelecekte platformlar için yeni düzenleyici gözetim katmanları ve hatta algoritmik denetimlerin eklenmesi olasılığı ile.

Geçen hafta Uber davaları hakkında karar veren aynı Amsterdam mahkemesi, Hindistan merkezli araç çağırma şirketi Ola'ya, Uber'in Gerçek Zamanlı Kimlik sistemine eşdeğer olan yüz tanıma tabanlı "Guardian" sistemi hakkındaki verileri ifşa etmesini emretti. Mahkeme, Ola'nın başvuranlara şu anda sağladığından daha geniş bir veri yelpazesi sunması gerektiğini söyledi - sürücüler ve çalıştırdığı bir "Guardian" gözetim sistemi içindeki verilerle ilgili bir "dolandırıcılık olasılık profili" ifşa etmek dahil.

Farrer, işçilerin şeffaflık kazanacağından emin olduğunu söylüyor - "öyle ya da böyle". Ve yıllarca Uber ile Birleşik Krallık mahkemelerinde işçilere yaptığı muamele nedeniyle savaştıktan sonra, platform gücünü yeniden dengeleme çabasındaki kararlılığı şüphe götürmez.

Coinsmart. Europa İçindeki En İyi Bitcoin-Börse
Kaynak: https://techcrunch.com/2021/03/19/uber-under-pressure-over-facial-recognition-checks-for-drivers/