Bir hukuk profesörü, ortalamanın altında veri kümeleri üzerinde eğitilmiş makine öğrenimi sistemlerini kullanan şirketlerin, haksız fiil hukuku kapsamında teknolojiden zarar gören mağdurlara yasal olarak tazminat ödemekle yükümlü olması gerektiği görüşündeydi.
İçinde sanal ders Brooklyn Hukuk Fakültesi'nden Profesör Frank Pasquale, Kaliforniya Üniversitesi Irvine tarafından düzenlenen etkinlikte, Amerika yasalarının makine öğrenimi şirketlerini hesap verecek şekilde nasıl genişletilmesi gerektiğini anlattı. Konuşma bir makaleye dayanıyordu [PDF] Columbia Law Review'da yayınlandı.
Prof Pasquale, "Veriler çok büyük olumsuz etkilere sahip olabilir ve bu nedenle, yanlış veya uygunsuz verilerin olduğu birçok kullanım için gerçekten haksız fiil sorumluluğunun olması gerektiğini düşünüyorum" dedi. Ancak mağdurların yapay zeka sistemlerini pervasızca eğiten satıcılara karşı dava açabilmeleri için eğitim verilerini elde etmenin ve araştırmanın bir yolu olması gerekiyor.
Yapay zeka destekli bir doktorun hastalardan kurtulmasına izin vermek ister misiniz? Üzerine gıda etiketi benzeri bir çıkartma yapıştırmayı dene diyor Sam Amca
Örneğin, makine öğrenimi araştırmalarından elde edilen ilk sonuçların, teknolojinin sağlık hizmetlerinde umut verici olduğunu gösterdiğini ve makinelerin bir aralığın teşhis edilmesi veya başlangıcını tahmin etme konusunda profesyonellerden daha iyi olmasa da onlar kadar iyi olduğunu iddia eden çok sayıda çalışma bulunduğunu söyledi. hastalıklardan.
Ancak Prof Pasquale, bu tür sistemleri eğitmek için kullanılan verilerin çoğunlukla kusurlu olduğunu savundu. Örneğin, örneklerin çeşitli etnik kökenlerden ve cinsiyetlerden insanları temsil edecek kadar çeşitli olmadığı durumlarda veri kümeleri dengesiz olabilir. Veri kümelerindeki önyargılar, bu modellerin performansında da ileriye taşınır; Örneğin kadınlar veya koyu tenli insanlar için genellikle daha az doğru ve daha az etkilidirler. Daha kötü senaryoda hastalara yanlışlıkla teşhis konulabilir veya gözden kaçırılabilir.
Şirketleri, sistemlerinin hangi veriler üzerinde eğitildiği ve bu verilerin nasıl toplandığı konusunda şeffaf olmaya zorlamak için eyalet veya federal düzeyde yeni yasaların çıkarılması gerektiğini belirtiyor. Daha sonra, Gıda ve İlaç İdaresi, Ulusal Standartlar ve Teknoloji Enstitüsü, Sağlık ve İnsani Hizmetler Departmanı veya Sivil Haklar Dairesi gibi federal kuruluşlar, potansiyel önyargıları ve etkilerini analiz etmek amacıyla veri kümelerini denetlemeye yönelik çabalar başlatmalıdır.
"Böyle bir düzenleme sadece endüstriye önlenebilir kazalardan ve diğer haksız fiillerden kaçınmaya yardımcı olmak için rehberlik sağlamakla kalmıyor. Pasquale yukarıda belirtilen makalede, aynı zamanda hakimlerin gelişen teknolojilerin uygulanmasına yönelik bakım standartlarını değerlendirmelerine de yardımcı oluyor. Düzenlemenin yapay zeka sağlık hizmetlerinde ilerlemeyi ve yeniliği engellememesi gerektiğini söyledi.
"Gelişme gerçekten heyecan verici ve bu alanlarda alkışlanmalı, liderliği kaybetmek istemiyorum ama [teknoloji] ancak haksız fiil hukuku varsa adil ve hakkaniyetli olacaktır" diye bitirdi. ®
Kaynak: https://go.theregister.com/feed/www.theregister.com/2021/02/09/legal_fines_ai/
