Yüz tanıma sistemleri, mükemmel bir şekilde sergileyen güçlü bir AI yeniliğidir Teknolojinin Birinci Kanunu: “Teknoloji ne iyi ne de kötü, ne de nötr.” Bir yandan, kolluk kuvvetleri yüz tanımanın etkili bir şekilde suçla mücadeleye ve şüphelileri tespit etmeye yardımcı olduğunu iddia ediyor. Öte yandan, Amerikan Sivil Özgürlükler Birliği gibi sivil haklar grupları uzun süredir devam ediyor denetlenmeyen yüz tanıma özelliği kolluk kuvvetlerinin elinde kitlesel gözetim sağlar ve gizlilik için benzersiz bir tehdit sunar.

Araştırmalar, olgun yüz tanıma sistemlerinin bile önemli ölçüde önemli olduğunu göstermiştir. ırk ve cinsiyet yanlılıklar; yani, kadınları ve renk insanlarını tanımlarken düşük performans gösterirler. 2018'de MIT'de bir araştırmacı gösterdi birçok üst sınıf sınıflandırıcısı, daha açık tenli erkek yüzleri% 0.8 hata oranlarıyla yanlış sınıflandırır, ancak koyu tenli dişileri% 34.7 kadar yüksek hata oranlarıyla yanlış sınıflandırır. Daha yakın zamanlarda, Michiganlı ACLU şikâyet yanlış bir yüz tanıma eşleşmesi nedeniyle Amerika Birleşik Devletleri'nde bilinen ilk dava olduğuna inanılan şey. Bu önyargılar, yüz tanıma teknolojisini kolluk kuvvetleri bağlamında özellikle zararlı hale getirebilir.

Son zamanlarda dikkat çeken bir örnek “piksel giderici".

Proje, bulanık veya pikselli görüntüleri yeniden yapılandırmak için Generatif Düşman Ağı (GAN) adı verilen güçlü bir AI tekniği kullanıyor; Bununla birlikte, Twitter'da makine öğrenimi araştırmacıları, Depixelizer'a beyaz olmayan yüzlerin pikselli görüntülerini verildiğinde, bu yüzleri beyaz görünmek için yeniden yapılandırdığını buldular. Örneğin, araştırmacılar eski Başkan Barack Obama'yı beyaz bir adam olarak ve Temsilci İskenderiye Ocasio-Cortez'i beyaz bir kadın olarak yeniden inşa ettiğini buldular.

Bir görüntü @ BarackObama beyaz bir adam içine örneklenmiş olmak etrafında yüzen çünkü ırksal önyargı gösterir #Makine öğrenme. Gerçek olmadığını düşünmeniz durumunda, kodu yerel olarak çalıştırıyorum. İşte ben ve işte @AOC. pic.twitter.com/kvL3pwwWe1

- Robert Osazuwa Ness (@osazuwa) Instagram Profilini Görüntüle Haziran 20, 2020

Projenin yaratıcısı muhtemelen bu sonuca ulaşmak niyetinde olmasa da, muhtemelen model, görüntü çeşitliliği olmayan ya da belki de GAN'lara özgü başka nedenlerle eğilmiş bir veri kümesi üzerinde eğitilmişti. Sebep ne olursa olsun, bu durum özel olarak denemeden doğru, tarafsız bir yüz tanıma sınıflandırıcısı oluşturmanın ne kadar zor olabileceğini göstermektedir.

Yüz tanıma sistemlerinin kötüye kullanılmasının önlenmesi

Şu anda, kamu yararını yüz tanıma sistemlerinin kötüye kullanılmasından korumanın üç ana yolu vardır.

İlk olarak, yasal düzeyde hükümetler yüz tanıma teknolojisinin nasıl kullanılacağını düzenlemek için mevzuat uygulayabilir. Halihazırda ABD federal kanunu veya kolluk kuvvetleri tarafından yüz tanıma kullanımına ilişkin bir düzenleme bulunmamaktadır. Birçok yerel hükümet ya tamamen yasakla or ağır düzenleme Bununla birlikte, yüz tanıma sistemlerinin kolluk kuvvetleri tarafından kullanılması, bu ilerleme yavaştır ve farklı düzenlemelerin bir yama çalışmasına neden olabilir.

İkincisi, kurumsal düzeyde şirketler bir tavır alabilir. Teknoloji devleri şu anda yüz tanıma teknolojilerinin sonuçlarını değerlendiriyor. Black Lives Matter hareketinin son momentumuna yanıt olarak, IBM kalkınmayı durdurdu Yeni yüz tanıma teknolojisi ve Amazon ve Microsoft geçici durdurulmuş kolluk kuvvetleriyle işbirlikleri. Ancak, yüz tanıma artık büyük teknoloji firmaları ile sınırlı bir alan değildir. Açık kaynak etki alanlarında birçok yüz tanıma sistemi mevcuttur. daha küçük teknoloji girişimleri piyasadaki herhangi bir boşluğu doldurmaya istekli. Şimdilik, California Tüketici Gizlilik Yasası (CCPA) gibi yeni çıkarılan gizlilik yasalarının bu şirketlere karşı yeterli savunma sağladığı görülmemektedir. CCPA'nın (ve diğer yeni eyalet yasalarının) gelecekteki yorumlarının, bu tür yüz verilerinin şüpheli bir şekilde toplanması ve kullanılmasına karşı yasal korumaları artırıp artırmayacağı görülecektir.

Son olarak, bireysel düzeydeki insanlar meseleleri kendi elleriyle ele geçirmeye ve video gözetim sistemlerinden kaçınmaya veya kafa karıştırmaya yönelik adımlar atabilir. Bir dizi aksesuarlar, gözlük, makyaj ve t-shirtler dahil olmak üzere yüz tanıma yazılımına karşı savunma olarak oluşturuluyor ve pazarlanıyor. Bununla birlikte, bu aksesuarların bazıları, onları giyen kişiyi daha belirgin hale getirir. Ayrıca güvenilir veya pratik olmayabilirler. Mükemmel bir şekilde çalışsalar bile, insanların sürekli olarak onlara sahip olmaları mümkün değildir ve kolluk kuvvetleri yine de bireylerden bunları kaldırmasını isteyebilir.

Gerekli olan, insanların AI'nın kendi yüzlerinde hareket etmesini engellemesine izin veren bir çözümdür. Dan beri gizlilik içeren yüz tanıma şirketleri Kullanıcıların yüz verilerini kazımak ve toplamak için sosyal medya platformlarına güveniyor, sosyal ağ ve görüntü barındırma platformlarına yüklenen görüntülere bir "BENİ İZLEMEYİN" (DNT-ME) bayrağı eklemeyi düşünüyoruz. Platformlar bu bayrakla yüklenmiş bir görüntü gördüklerinde, ekleyerek saygı duyarlar. çekişmeli bozulmalar görüntüyü indirme veya kazıma için herkese açık hale getirmeden önce.

Birçok AI sistemi gibi yüz tanıma, bir görüntüye eklendiğinde yanlış sınıflandırmayı zorlayan küçük ama hedefli bozulmalara karşı savunmasızdır. Yüz tanıma sistemlerine ters pertürbasyonlar eklemek, aynı kişinin iki farklı görüntüsünü birbirine bağlamalarını durdurabilir1. Fiziksel aksesuarlardan farklı olarak, bu dijital bozulmalar insan gözüyle neredeyse görünmezdir ve bir görüntünün orijinal görsel görünümünü korur.

(Üstte: orijinal kağıt tarafından Goodfellow ve ark.)

Bu görüntüler için beni TAKİP ETMEYİN yaklaşımı, İZLEME (DNT) web tarama bağlamında yaklaşım, istekleri onurlandırmak için web sitelerine dayanır. Tarayıcı DNT'ye çok benzer şekilde, bu önlemin başarısı ve etkinliği, katılımcı platformların yöntemi destekleme ve uygulama istekliliğine dayanır ve böylece kullanıcı gizliliğini korumaya olan bağlılıklarını gösterir. BENİ İZLEMEYİN aşağıdakileri başaracak:

Kötüye kullanımı önleme: Bazı yüz tanıma şirketleri, büyük miktarlarda yüz verisi toplamak, bunları bireylere bağlamak ve kolluk kuvvetlerine desteksiz izleme hizmetleri sunmak için sosyal ağları kazımaktadır. DNT-ME'yi benimseyen sosyal ağ platformları, bu tür şirketlerin platformu kötüye kullanmasını engelleyebilir ve kullanıcı gizliliğini savunabilir.

Sorunsuz bir şekilde entegre edin: DNT-ME kullanan platformlar, AI ile ilgili görevleri için hala temiz kullanıcı görüntüleri alacaktır. Çekişmeli bozulmaların özel özellikleri göz önüne alındığında, kullanıcılar tarafından fark edilmeyecek ve platformun kullanıcı deneyimini olumsuz etkilemeyecektir.

Uzun vadeli benimsemeyi teşvik edin: Teorik olarak, kullanıcılar bunu yapmak için sosyal ağ platformlarına güvenmek yerine kendi düşmansal sıkıntılarını ortaya koyabilirler. Bununla birlikte, “kara kutu” tarzında oluşturulan perturbasyonlar dikkat çekicidir ve muhtemelen platformun kendisi için görüntünün işlevselliğini bozacaktır. Uzun vadede, bir kara kutu yaklaşımının kullanıcı tarafından düşürülmesi veya platformlara antagonize edilmesi muhtemeldir. Sosyal ağ platformları tarafından DNT-ME'nin benimsenmesi, hem kullanıcıya hem de platforma hizmet eden bozulmaların oluşturulmasını kolaylaştırır.

Diğer kullanım durumları için emsal teşkil eder: Diğer gizlilik ihlallerinde olduğu gibi, teknoloji firmaları tarafından platformlarında kötüye kullanım içermemesi, güçlü ve belki de geniş kapsamlı bir hükümet düzenlemesine yol açmıştır. Son zamanlarda, birçok teknoloji şirketi platformlarının kitlesel gözetim için kullanılmasını önlemek için proaktif adımlar attı. Örneğin, Signal kısa süre önce mesajlaşma platformunu kullanarak paylaşılan yüzleri bulanıklaştırmak için bir filtre ekledi ve Zoom artık video görüşmelerinde uçtan uca şifreleme sağlıyor. DNT-ME'nin teknoloji şirketlerine geliştirdikleri teknolojinin kullanıcı seçimine saygı duymasını ve insanlara zarar vermemek için başka bir fırsat sunduğuna inanıyoruz.

Bununla birlikte, DNT-ME mükemmel bir başlangıç ​​olsa da, sorunun sadece bir kısmını ele aldığını belirtmek önemlidir. Bağımsız araştırmacılar şirketler tarafından geliştirilen yüz tanıma sistemlerini denetleyebilse de, hükümet içinde geliştirilen kamuya açık denetim sistemleri için bir mekanizma bulunmamaktadır. Bu, söz konusu sistemlerin, göç, gümrük icrası, mahkeme ve kefalet sistemleri, ve Kolluk. Bu nedenle, dış araştırmacıların bu sistemleri ırksal ve cinsiyet yanlılığının yanı sıra henüz keşfedilmemiş diğer sorunları kontrol etmelerine izin verecek mekanizmaların oluşturulması kesinlikle hayati önem taşımaktadır.

Teknolojiden zarar görmekten kaçınmak teknoloji topluluğunun sorumluluğundadır, ancak teknolojiden kaynaklanan zararı onaran sistemleri aktif olarak yaratmalıyız. Kutunun dışında, kullanıcı gizliliğini ve güvenliğini iyileştirmenin ve günümüzün zorluklarını karşılamanın yollarını düşünmeliyiz.

Saurabh Shintre ve Daniel Kats, NortonLifeLock Laboratuvarları.