Özellikler(Hazırlık aşamasında) Başka bir gün, başka bir manşet. Geçen hafta, Bir yaşındaki girişim, yatırımcılardan 1.3 milyar dolar çekti Microsoft ve Nvidia dahil, Inflection AI'ye 4 milyar dolar değer veriyor.

Bunlar gibi tuhaf değerlendirmeler, şu uyarılarla yarışıyor: varoluşsal riskler, toplu iş kayıpları ve öldürücü drone ölüm tehditleri AI etrafındaki medya yutturmacasında. Ancak manşetlerin altında fokurdayan, 60 yıllık bilimsel araştırmanın tartışmalı bir şekilde halının altına süpürülmesiyle, entelektüel manzaraya kimin sahip olacağına dair bir tartışma var. Söz konusu olan, Yapay Genel Zeka (AGI) denen bir şeyle insanlara eşit olacağı zamandır.

Mayıs ayında Yale Yönetim Okulu ekonomi profesörü Jason Abaluck'a girin. Twitter'a götürdü şunu ilan etmek için: "AGI'nin yakında geleceğini kabul etmiyorsanız, görüşlerinizin neden uzman AI araştırmacılarından daha bilinçli olduğunu açıklamanız gerekir."

Güçlü yapay zeka olarak da bilinen AGI kavramı, sonuç üretebilen bir sistem ile bunu düşünerek yapabilen bir sistem arasında ayrım yapmanın bir yolu olarak 1980'den beri kullanılmaktadır.

Konuya olan ilgideki son artış, OpenAI'nin büyük hacimli metinleri sıkıştırmaya, aralarındaki ilişkileri vektörlere dönüştürmeye dayanan ve şiir ve şiir de dahil olmak üzere birçok biçimde uygulanabilir çıktılara dönüştürülebilen büyük bir dil modeli olan GPT-4'ten kaynaklanıyor. bilgisayar kodu.

Dahil olmak üzere bir dizi etkileyici sonucun ardından yasal Üniforma Baro Sınavını geçmek – ve ekonomik yararları için cesur iddialar – Birleşik Krallık verimliliğinde 31 milyar £ (39.3 milyar $) artış, KPMG'ye göre - taraftarlar daha cesur hale geliyor.

OpenAI CEO'su Sam Altman geçen ay Hindistan'da bir seyirciye ilan edildi: "Zekanın gerçekten özel insani bir şey olduğunu ve bir şekilde büyülü olduğunu düşünerek büyüdüm. Ve şimdi bunun maddenin temel bir özelliği olduğunu düşünüyorum…”

Ocak ayında OpenAI'ye 10 milyar dolar yatıran Microsoft, GPT-4 üzerinde kendi deneylerini yürütüyor. Yazılım devinin makine öğrenimi temellerinde kıdemli baş araştırma yöneticisi Sebastien Bubeck tarafından yönetilen bir ekip, sonucuna [PDF] "becerileri, GPT-4'ün akıl yürütmenin temel bir yönü olan karmaşık kavramları manipüle edebildiğini açıkça göstermektedir."

Ancak bilim adamları, Altman ve Bubeck'ten çok daha uzun süredir düşünmeyi düşünüyorlar. 1960 yılında, Amerikalı psikologlar George Miller ve Jerome Bruner, Harvard Bilişsel Çalışmalar Merkezi'ni kurdular ve bu, disiplinin doğuşu için herhangi bir başlangıç ​​noktası sağladı, ancak bazı kollar 1940'lara kadar uzanıyor. Bu bilimsel mirası devralanlar, ekonomistler ve bilgisayar bilimcilerin büyük dil modelleri ve üretken yapay zeka hakkında ileri sürdükleri gösterişli iddiaları eleştiriyor.

Sinir sistemlerinde dil ve hesaplama için Max Planck Araştırma grubu lideri Dr Andrea Martin, AGI'nin "kırmızı ringa balığı" olduğunu söyledi.

"Benim sorunum genel zeka kavramının kendisi ile ilgili. Temel olarak tahmine dayalıdır: bir test, başka bir testte nasıl puan alacağınızı büyük ölçüde tahmin eder. Bu davranışlar veya ölçümler bazı özcü özelliklerle ilişkilendirilebilir [ancak] bunun için çok az kanıtımız var” dedi. Kayıt.

Martin ayrıca, bilgisayar bilimi, yapay zeka ve bilişsel bilimde kurucu bir rol oynayan Alan Turing tarafından önerilen Turing Testini yapay zekanın insan benzeri düşünmeyi veya zekayı göstermesi için bir engel olarak kullanmayı da reddediyor.

Test, bir makinenin doğal dilde soru-cevap oturumu aracılığıyla insanları kendisinin bir insan olduğuna inandırıp kandıramayacağını değerlendirmek için yola çıkıyor. Bir insan değerlendirici, görünmeyen makineyi görünmeyen bir insandan bir metin arabirimi aracılığıyla güvenilir bir şekilde ayırt edemezse, makine geçti.

Martin, hem ChatGPT hem de Google'ın yapay zekası testi geçti, ancak bunu bilgisayarları düşünmenin kanıtı olarak kullanmak "Turing'in korkunç bir yanlış okuması" dedi.

"Niyeti her zaman bilişsel bilim veya psikolojideki bir kavramdan ziyade bir mühendislik veya bilgisayar bilimi konseptiydi."

New York Üniversitesi psikoloji ve sinir bilimi fahri profesörü Gary Marcus, testi de eleştirdi makine zekasını veya bilişini değerlendirmenin bir yolu olarak.

LLM yaklaşımıyla ilgili diğer bir sorun, dilin yapısını veya bilgiyi yakalama kapasitesini anlamaya çalışmak yerine, dilin yalnızca istatistiksel olarak yönlendirilen yönlerini yakalamasıdır. "Aslında bu bir mühendislik hedefi. Ve bunun bilime ait olmadığını söylemek istemiyorum, ancak bunun tanımsal olarak farklı bir hedef olduğunu düşünüyorum” dedi Martin.

LLM'lerin akıllı olduğunu veya akıl yürütebileceğini iddia etmek, geliştirme için kullanılan yöntemlerde şeffaflık sorunuyla da karşılaşır. Adına rağmen OpenAI, bazı modellerini geliştirmek için eğitim verilerini veya insan geri bildirimlerini nasıl kullandığı konusunda açık değildi.

"Modeller, iyi olarak işaretlenen memnuniyet verici yanıtlar için parametre ağırlıklarının ne olduğu hakkında çok sayıda geri bildirim alıyor. 90'larda ve XNUMX'lerde bilişsel bilim konferanslarında buna izin verilmezdi,” dedi Martin.

LLM'lerdeki insan benzeri performansın, insan gibi düşündüklerini kanıtlamak için yeterli olmadığını savunan Martin, "Korelasyonun yeterli olduğu, size bir tür anlamlı nedensel yapı sağladığı fikri doğru değil" dedi.

Yine de, savunucuları tarafından değerleri abartılsa bile, büyük dil modellerinin değerli olabileceğini söyledi.

"Dezavantajı ise pek çok önemli bulguyu geçiştirebilmeleri... bilişsel bilim felsefesinde bu pes edemeyiz ve bundan kaçamayız."

Yine de bilişsel bilimdeki herkes aynı fikirde değil. University College London'da bilişsel sinirbilim profesörü olan Tali Sharot'un farklı bir bakış açısı var. "Dilin kullanımı elbette çok etkileyici: argümanlar ve kodlama gibi beceriler ortaya koymak," dedi.

“Zeka ile insan olmak arasında bir tür yanlış anlaşılma var. Zeka, doğru öğrenme, bilgi ve beceri edinme yeteneğidir.

"Dolayısıyla bu dil modelleri kesinlikle öğrenip bilgi edinebilir ve beceriler edinebilir. Örneğin, kodlama bir beceriyse, o zaman beceri edinebilir - bu hiçbir şekilde insan olduğu anlamına gelmez.”

En önemli farklardan biri, AI'ların ajansı olmaması ve LLM'lerin dünyayı insanlarla aynı şekilde düşünmemesidir. "Geri yansıtıyorlar - belki biz de aynısını yapıyoruz, ama bunun doğru olduğunu düşünmüyorum. Gördüğüm kadarıyla hiç düşünmüyorlar," dedi Sharot.

Toplam hatırlama

UCL'nin Hücre ve Gelişimsel Biyoloji bölümü profesörü Caswell Barry, hafızanın sinirsel temelini ortaya çıkarmak için çalışıyor. OpenAI'nin yapay zeka yaklaşımı konusunda sahadaki pek çok kişinin verimli olmayacağını düşündüğü büyük bir iddiaya girdiğini söylüyor.

Kelime yerleştirmeleri ve dil modelleri sahada iyi anlaşılmış olsa da OpenAI, daha fazla veri toplayarak ve "insanlığın şimdiye kadar yazdığı ve internette bulabileceğiniz her şeyi özümseyerek, o zaman ilginç bir şey olabileceğini" hesapladı.

"Geriye dönüp bakıldığında, herkes bunun mantıklı olduğunu söylüyor, ancak aslında bunun çok büyük bir bahis olduğunu biliyordu ve makine öğrenimi dünyasındaki DeepMind gibi birçok büyük oyuncuyu tamamen gözden kaçırdı. Bu araştırma yönünü takip etmiyorlardı; Çalışmaları kısmen sağlık araştırmaları hayır kurumu Wellcome, DeepMind ve Nvidia tarafından finanse edilen Barry, "Görüş, beyinden gelen ilhama bakmamız gerektiğiydi ve AGI'ya bu şekilde ulaşacaktık" dedi.

OpenAI, yaklaşımının başarısıyla endüstriyi ve akademiyi şaşırtmış olsa da, er ya da geç AGI'ye yaklaşmadan yolunun tükenebileceğini savundu.

“OpenAI, internetteki kolayca erişilebilen dijital metinlerin büyük bir bölümünü kelimenin tam anlamıyla emdi, 10 kat daha fazlasını elde etmek gibi bir şey yapamazsınız, çünkü onu bir yerden almanız gerekiyor. Nasıl kullandığınız konusunda incelik yapmanın ve daha akıllı olmanın yolları var, ama aslında, temelde, hala bazı yetenekleri eksik. Soyut kavramlar üretebileceğine ve onları manipüle edebileceğine dair somut göstergeler yok.”

Bu arada, eğer amaç AGI'ya ulaşmaksa, öjeni ve kültürel önyargı ile renklenen dolu bir geçmişle bu kavramın hala yeterince anlaşılmadığını ve tespit edilmesinin zor olduğunu söyledi.

Onun içinde kâğıt [PDF], Microsoft, "bir yapay genel zeka (AGI) sisteminin erken (ancak hala eksik) bir sürümünü" oluşturduğunu iddia ettikten sonra, AGI'nin tanımı hakkında daha fazla konuşuyor.

Makalede, "AGI'yi, muhakeme, planlama ve deneyimden öğrenme yeteneği dahil olmak üzere geniş zeka yetenekleri sergileyen ve bu yeteneklerle insan seviyesinde veya üzerinde olan sistemlere atıfta bulunmak için kullanıyoruz" diyor.

Abdüktif akıl yürütme

Bilişsel bilim ve nörobilim uzmanları, farklı düşünmek için yalvaranlar değil. Birleşik Modelleme Dilini geliştirmesiyle ünlü bir yazılım mühendisi olan Grady Booch, destekledi Twitter'da AGI'nin "nedensellik semantiği, tümevarımlı akıl yürütme, sağduyulu akıl yürütme, zihin ve benlik kuramı veya öznellik için uygun bir mimari" eksikliği nedeniyle AGI'nin hayatımızda veya kısa bir süre sonra olmayacağını ilan ederek şüphe duyanlar. deneyim."

LLM'lerin etrafındaki mantar yetiştirme endüstrisi şu anda kızartılacak daha büyük balıklara sahip olabilir. OpenAI bir darbe aldı. sınıf-aksiyon takımı eğitim verilerinin etiğine yönelik zorluklar varken, telif hakkıyla korunan verileri kazımak için gösteren bir çalışma çok sayıda ırksal ve toplumsal önyargı barındırırlar.

LLM'ler sorulara geçerli yanıtlar ve işe yarayan kodlar sunabiliyorsa, belki de bu, yaratıcılarının cesur iddialarını haklı çıkarmak içindir - sadece bir mühendislik alıştırması olarak.

Ancak Dr Martin için yaklaşım yetersiz ve diğer alanlardan öğrenme olasılığını kaçırıyor.

“Bu, bilimle ilgilenip ilgilenmediğinize kadar gidiyor. Bilim, daha sonra mekanik veya nedensel bir yapıya sahip olan dünyadaki fenomenlerin açıklamaları, ontolojileri ve tanımları ile ortaya çıkmakla ilgilidir. Mühendislik temelde bununla ilgili değil. Ancak, [fizikçi] Max Planck'tan alıntı yapacak olursak, içgörü uygulamadan önce gelmelidir. Bir şeyin kendi başına nasıl çalıştığını anlamak, bizi daha iyi uygulamalara götürebilir.”

Çok abartılı LLM teknolojileri için uygulama bulma telaşı içinde, onlarca yıllık bilişsel bilimi göz ardı etmemek en iyisi olabilir. ®

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. Otomotiv / EV'ler, karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• Blok Ofsetleri. Çevre Dengeleme Sahipliğini Modernleştirme. Buradan Erişin.
• Kaynak: https://go.theregister.com/feed/www.theregister.com/2023/07/04/agi_llm_distant_dream/