Yapay genel zeka (AGI) yatırımcısı Arram Sabeti, yapay zeka silahlanma yarışının "tehlikeli" bölgeye ulaştığı ve insanların süper akıllı yapay zekadan korkması gerektiği konusunda uyardı.

Sabeti “AGI'den korkuyorum” yazdı kurumsal yapay zeka rekabeti hararet noktasına ulaşırken, Twitter'da uzun bir ileti dizisinde. "İnsanların riskleri nasıl bu kadar önemsemediği kafa karıştırıcı."

“İki AGI şirketine yatırımcıyım ve DeepMind, OpenAI, Anthropic ve Google Brain'de çalışan düzinelerce araştırmacıyla arkadaşım. Hemen hemen hepsi endişeli.”

Ayrıca okuyun: GPT-4 Matematik, Tıp ve Hukukta İnsanlar Kadar Akıllı Olabilir – Microsoft

Uzmanların %48'i AGI konusunda endişeli

AGI, yapay zekanın iksiridir - yapay zeka destekli sohbet robotlarının beğendiği nokta ChatGPT bir insanın yapabileceği herhangi bir entelektüel görevi yerine getirme yeteneği kazanırdı ve belki daha da iyi olurdu. Microsoft yakın zamanda iddia etti rapor o GPT 4 AGI'ye çoktan ulaşmış olabilir.

İnsan seviyesine yakın veya daha yüksek zekaya sahip otonom robotlar, kabusların konusu. Sabeti, ABD gıda şirketi Zerocater'ın kurucusu. Ayrıca, Zoom için bir yapay zeka not defteri inşa eden bir girişim olan Fathom için 6.5 milyon dolarlık bir başlangıç ​​turunun baş yatırımcısıydı.

Serbest elektrik üretecek bir tür nükleer reaktörle paralelliklere atıfta bulunan Sabeti, yaratıcılarından daha akıllı olan yapay zekadan kaynaklanabilecek potansiyel riskler nedeniyle böyle bir durumdan korkulması gerektiği konusunda uyardı.

İnsanlar böyle bir olasılıktan heyecan duysa da, "nükleer mühendislerin yarısı 'aşırı derecede kötü' bir felaket olasılığının en az %10 olduğunu düşünüyor, güvenlik mühendisleri ise bunu %30'un üzerine koyuyor." Sabeti daha sonra “AGI'de durum bu” diye uyardı.

AGI'dan korkuyorum. İnsanların riskleri nasıl bu kadar önemsemediği kafa karıştırıcı.

İki AGI şirketine yatırımcıyım ve DeepMind, OpenAI, Anthropic ve Google Brain'de çalışan düzinelerce araştırmacıyla arkadaşım. Hemen hepsi endişeli.

🧵

— Arram Sabeti (@arram) 2 Nisan 2023

Girişimci, iddiasını desteklemek için Yapay Zekada İlerleme konulu 2022 Uzman Anketi'nden alınan verilere baktı. Başına anket, Ankete katılan 48 makine öğrenimi araştırmacısının %738'i, gelişmiş yapay zekadan insan soyunun tükenmesi gibi son derece kötü bir sonuç çıkması için en az %10 şans verdi.

İnsanlara şu tür sorular soruldu: "İnsanın gelecekteki gelişmiş yapay zeka sistemlerini kontrol etme konusundaki yetersizliğinin, insan neslinin tükenmesine veya benzer şekilde insan türünün kalıcı ve ciddi şekilde güçsüzleşmesine neden olma olasılığı nedir?"

Ankete katılanların yaklaşık %69'u, toplumun yapay zeka güvenlik araştırmalarına şu anda olduğundan daha fazla öncelik vermesi gerektiğini söyledi. Ancak genel olarak AGI'nin hala 30 yıldan fazla uzakta olduğuna inanıyorlar.

Arram Sabeti başka bir ankete de işaret etti yayınlanan "Yapay Zekadan Kaynaklanan Varoluşsal Risk" başlıklı Etkili Özgecilik Forumu'nda. AI güvenliğinde çalışan 44 kişiyle yapılan bir anket, korkunç bir şeyin olma olasılığının ortalama %30 olduğunu ve bazılarının %50'nin üzerinde olduğunu gösteriyor.

Teknoloji liderleri yapay zeka riskleri hakkında konuşuyor

Sabeti, AI gelişiminin mevcut gidişatına olan güvenini kaybettiğini söyledi ve hükümet müdahalesi çağrısında bulundu.

"Büyük yapay zeka laboratuvarlarına olan güvenim zamanla azaldı. Başından beri bizi açıkça uyardıkları türden tehlikeli silahlanma yarışı dinamiklerine girmeye başlıyorlar” diye yazdı.

"Süper zekayı yaşamımız boyunca göreceğimiz bana açık görünüyor ve bunun iyi gideceğinden emin olmak için herhangi bir nedenimiz olup olmadığı hiç de net değil."

Zaman çizelgeleri hızlanmış olsa da, en belirsiz kısmın AGI'nin ne zaman gerçekleşeceği olduğunu söyledi. Son zamanlarda makine öğreniminde öncü olan Geoffrey Hinton şuraya önümüzdeki 5 yıl içinde AGI'yi göz ardı edemez ve yapay zekanın insanlığı yok etmesi düşünülemez değil.

Bu kesinlikle inanılmaz bir video.

Hinton: “Bu bir sorun, değil mi? Bunu nasıl kontrol edeceğimiz konusunda iyice düşünmeliyiz.”

Muhabir: “Yapabilir miyiz?”

Hinton: “Bilmiyoruz. Henüz oraya gitmedik. Ama deneyebiliriz!"

Muhabir: "Bu biraz endişe verici mi görünüyor?"

Hinton: "Ah, evet!" pic.twitter.com/S6GJk3eWXW

— Jonathan Mannhart 🔎 (@JMannhart) 31 Mart, 2023

MetaNews olarak rapor Bu hafta, Microsoft araştırmacıları, GPT-4'ün matematik, tıp, hukuk ve diğer alanlarda insan düzeyinde zorlu zeka görevlerini tamamlamasının da gösterdiği gibi, süper akıllı yapay zekanın zaten burada olduğunu iddia ediyor. Diğer teknoloji liderleri de varoluşsal AI riskleri hakkında açıkça konuştu.

OpenAI AGI'nin herkesi öldürme riski hakkında CEO Sam Altman: “Öyleyse her şeyden önce şunu söyleyeceğim, bunun biraz şansı olduğunu düşünüyorum. Ve bunu kabul etmek gerçekten çok önemli.”

Twitter sahibi ve milyarder Elon Musk: “Yapay zeka ile şeytanı çağırıyoruz. Sözlerime dikkat edin - yapay zeka nükleer silahlardan çok daha tehlikelidir.”

Rahmetli fizikçi Stephen Hawking: "Yapay zekanın tam anlamıyla geliştirilmesi, insan ırkının sonunu getirebilir."

En iyi hizalama araştırmacısı Paul Christiano: "Yapay zeka uyumu olmadan, yapay zeka sistemlerinin insan neslinin tükenmesi gibi geri dönüşü olmayan bir felakete neden olma olasılığı makul."

Yapay zekanın benimsenmesi artarken ve kullanımının açık faydaları olsa da, süper akıllı yapay zekanın potansiyel tehlikelerine ilişkin endişeler devam ediyor. Kuruluşların yapay zekanın insanlık üzerindeki etkisini dikkate alması ve yapay zekanın güvenli bir şekilde tasarlandığından emin olması önemlidir.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• Plato blok zinciri. Web3 Metaverse Zekası. Bilgi Güçlendirildi. Buradan Erişin.
• Kaynak: https://metanews.com/google-claims-its-ai-computer-outperforms-nvidias-a100-chip/