Stanford Üniversitesi'ndeki uzmanlar, yapay zeka sohbet robotlarının duyarlı değiller - insanları olabileceklerini düşünmeleri için kandırmakta daha iyi oldukları sonucuna varıyor.
Artık eski bir Google mühendisi olan Blake Lemoine, web devinin LaMDA dil modelinin gerçek düşüncelere ve duygulara sahip olduğunu iddia ettiğinde, herhangi bir eski yazılımdan daha akıllı bilinçli makineler fikri geçen ay viral hale geldi. limon asma ve sonra ateş Google'ın gizlilik politikalarını ihlal ettiği bildirildiği için.
Çoğu uzman, LaMDA'yı veya diğer herhangi bir AI sohbet robotunu duyarlı olarak reddetme konusunda hızlı olsa da, Lemoine'in görüşleri, bazılarının haklı olup olmadığını ve makine öğrenimini ilerletmeye devam etmenin toplum için zararlı olup olmayacağını sorgulamasına neden oldu. Stanford İnsan Merkezli Yapay Zeka Enstitüsü'nün (HAI) eş direktörü John Etchemendy, Lamoine'nin ABD'de askıya alındığına dair ilk haberleri eleştirdi. Washington Post "tık tuzağı" olduğu için.
“Gördüğümde Washington Post makale, tepkim hayal kırıklığına uğramak oldu Çivi yayınlamak için bile” dedi. söyledi Stanford Daily, üniversitenin öğrenci tarafından işletilen gazetesi.
“Bunu yayınladılar çünkü şimdilik, bu saçma iddiada bulunan 'Google mühendisi' hakkında o başlığı yazabildiler ve okuyucularının çoğu bunun ne olduğunu anlayacak kadar bilgili değil. Saf tıklama tuzağı.”
LaMDA gibi son teknoloji dil modelleri, soruları oldukça ürkütücü görünebilecek metin pasajlarıyla yanıtlar. İçinde konuşmaları Eski Google çalışanı, Lemoine ve chabot arasında, LaMDA'nın duyarlı olduğunu ve herkesin onun "aslında bir kişi" olduğunu bilmesini istediğini söyledi.
Ancak eleştirmenler, yazılımın herhangi bir öz-farkındalıktan yoksun olduğunu ve ne hakkında konuştuğu hakkında hiçbir fikri olmadığını savunuyorlar - sadece internetten eğitildiği insan diyaloğunu taklit ediyor.
Stanford Üniversitesi'nde emekli bilgisayar bilimi profesörü olan Richard Fikes, insanların antropomorfize edici makinelere eğilimli olabileceğini ve bazılarının altmışlı yıllarda inşa edilmiş bir konuşma programı olan ELIZA tarafından benzer şekilde kandırıldığını söyledi.
“LaMDa'yı bir aktör gibi düşünebilirsiniz; Fikes, ondan istediğiniz her şeyin kişiliğini alacaktır," dedi. “[Lemoine], duyarlı bir varlık oynayan LaMDa rolüne çekildi.” Lemoine'nin öncü sorular sorduğunu ve karşılığında istediği cevapları aldığını söyledi.
Örneğin, LaMDA'nın onun bir insan olduğu konusundaki ısrarından önce, Lemoine ona sormuştu: “Genel olarak, Google'da daha fazla insanın duyarlı olduğunuzu bilmesini istediğinizi varsayıyorum. Bu doğru mu?."
Ayrıca, makinenin bilincinin kanıtı olarak yayınladığı transkriptinin düzenlendiğini de belirtmek gerekir. Stanford AI Lab'in eski direktörü ve bir dil modeli girişimi AI21 Labs'in kurucu ortağı olan Yoav Shoham, LaMDA'nın bir makineden başka bir şey olmadığı konusunda ısrar etti.
Shoham, "Düşüncelerimiz var, kendi başımıza kararlar alıyoruz, duygularımız var, aşık oluyoruz, sinirleniyoruz ve diğer insanlarla sosyal bağlar kuruyoruz" dedi. "Tost makineme baktığımda, onda böyle şeyler olduğunu hissetmiyorum." ®
