Yorum Yap OpenAI CEO'su Sam Altman, yeni başlangıcının yapay genel zekanın gelişine hazırlandığını söyledi - ancak AGI'nin gerçekte ne anlama geldiği konusunda anlaşmazlıklar ve OpenAI'nin misyonunun AGI'nin "tüm insanlığa fayda sağlamasını" sağlamak olduğu iddiasına dair şüpheler olsa da.
Google'ın artık kullanılmayan "Kötü olma" diktasının yasal olarak bağlayıcı olmayan duygusuna göz yaşlarınız takıldıysa, okumaya devam edin.
OpenAI'nin sohbet botu ChatGPT'ye göre, “AGI, Yapay Genel Zeka anlamına gelir; bu, bir yapay zeka sisteminin bir insanın yapabileceği herhangi bir entelektüel görevi yerine getirme varsayımsal yeteneğini ifade eder. Bu, şu anda en gelişmiş AI sistemlerinin bile yeteneklerinin ötesinde olan şekillerde akıl yürütme, problem çözme, deneyimlerden öğrenme ve yeni durumlara uyum sağlama gibi görevleri içerecektir.”
İyi Herneyse. Önemli olan, henüz böyle bir sistemin olmaması. Ve biz bir tane oluşturmaya yakın değil. Öyleyse belirsiz beyanlara geçelim.
“AGI, herkese inanılmaz yeni yetenekler verme potansiyeline sahip; Hepimizin hemen hemen her türlü bilişsel görevde yardıma erişebildiği, insan zekası ve yaratıcılığı için büyük bir güç çarpanı sağlayan bir dünya hayal edebiliyoruz,” dedi Altman. kendi web sitesinde.
İnsanların çevrimiçi resimlerinin, metinlerinin, müziklerinin, ses kayıtlarının, videolarının ve kodlarının, yapay zeka modellerini eğitmek için büyük ölçüde izin alınmadan toplandığı ve onlara ayda 10 dolara geri satıldığı bir dünya hayal edin. Zaten oradayız ama bunun ötesinde bir şey hayal edin ve bunun inanılmaz olduğunu varsayın.
Toplumun gelişimini sonsuza kadar durdurmasının mümkün veya arzu edilir olduğuna inanmıyoruz; bunun yerine, toplum ve AGI geliştiricileri bunu nasıl doğru yapacaklarını bulmalıdır.
Altman, işlerin ters gidebileceğini kabul ediyor, ancak düzelteceğimizi savunuyor: “Öte yandan, AGI aynı zamanda ciddi yanlış kullanım, ciddi kazalar ve toplumsal bozulma riskleri de getirecektir. AGI'nin olumlu tarafı çok büyük olduğundan, toplumun gelişimini sonsuza kadar durdurmasının mümkün veya arzu edilir olduğuna inanmıyoruz; bunun yerine toplum ve AGI geliştiricileri bunu nasıl doğru yapacaklarını bulmalı.”
Başka bir deyişle, insan emeğinin eskimesiyle kazanılacak o kadar çok para var ki, işletme sahipleri dizginlenemez.
Hisselerini birkaç yıl önce Microsoft'a satan OpenAI'nin kurucu ortağı ve yatırımcısı Elon Musk'ın neredeyse on yıl önce yapay zekanın en büyük varoluşsal tehdit var.
İster inanın ister inanmayın, haydut AI ciddi olarak dikkate alınır [PDF] Dünya'ya asteroit çarpması, küresel iklim felaketi, salgın hastalıklar, nükleer savaş, kıtlık ve diğer sinematik kinayeler gibi daha bariz potansiyel felaketlerin ortasında.
Yine de Altman, AGI'nin sonsuza kadar durdurulamayacağını öne sürüyor. Kötü adam Thanos'tan bir replik ödünç alabilirdi. Yenilmezler: Endgame, "Ben kaçınılmazım."
ABD'deki Washington Üniversitesi'nde Dilbilim Bölümü'nde profesör ve Hesaplamalı Dilbilim Laboratuvarı'nın yöneticisi olan Emily Bender, Altman'ın gönderisini inceledi. böylece Twitter'da: "En başından beri bu çok iğrenç," diye yazdı. “'AGI' geliştirme/şekillendirme işinde gerçekten olduklarını düşünüyorlar. Ve 'tüm insanlığa neyin fayda sağlayacağına' karar verecek konumda olduklarını düşünüyorlar.”
İşte bir düşünce deneyi: Milyarderleri yüzde 95 oranında vergilendirmeyi ve servetlerini insanlığın yararına yeniden dağıtmayı tavsiye eden bir AGI sistemi hayal edin. Önerilen değişiklikleri gerçekleştirmek için bankacılık sistemine bağlanacak mı? Hayır, olmayacak. AGI'ye bakanlar bu emirleri gerçekten yerine getirecek mi? Yine hayır.
Zenginliği ve gücü olan hiç kimse, ne kadar "akıllı" olursa olsun, yazılıma yetki vermeyecek, hatta servetinin ve gücünün bir kısmını bile almasına izin vermeyecektir. Hiçbir VIP, AGI'nin düşüşlerini dikte etmesini istemez. Ve öncelikle güçlü ve zenginlere daha fazla güç ve zenginlik veren veya statükoyu koruyan herhangi bir AGI, OpenAI'nin ifadesiyle tüm insanlığa fayda sağlayan bir teknoloji olarak tanımlayacağımız şey değildir.
Saldırgan olmayan yapay zeka, çalışanları gözetlemek için iyidir; düşük ücretli araç paylaşımlı sürücülerin davranışlarıyla oynamak için; ihlali, ticari sır sızıntılarını veya işçi örgütlenmesini işaretlemek için; veya yalnızca ara sıra ölümle sonuçlanan ve icra sorumluluğu olmayan halka açık yollarda araba kullanmak için.
Ancak hiç kimse öngörülemeyen AGI istemez. AGI öngörülebilir ise, diğer herhangi bir mekanik sistemden daha akıllı değildir. Bu nedenle, şu anda formüle edildiği şekliyle yapay zeka ile ilgilenmeye geri döndük: sonuçları pek dikkate almadan kâr için kullanılan, şüpheli otoriteyle oluşturulmuş opak modeller.
Bender olarak yazdı Altman'ın mektubunu incelemesinde, "Keşke bu insanlara gülebilseydim, ama ne yazık ki onlar sözde yapay zeka sistemlerinin düzenlenmesi hakkındaki tartışmayı başlatmaya çalışıyorlar (ve bence başarılı oluyorlar).
Ancak konuyu AGI düzenlemesi açısından çerçevelendirmek hedefi kaçırıyor, diye savundu Bender. "Metin sentez makineleri" olarak adlandırdığı ChatGPT veya DALL•E gibi yapay zeka sistemleri, veri hakları, otomatik karar vermeye karşı koruma, gözetim ve teknolojiyle ilgili diğer sosyal sürtüşmeler hakkında daha geniş tartışmalar bağlamında değerlendirilmelidir.
Bender, "Sorun 'AI' veya gelecekteki 'AGI'yi düzenlemek değil" dedi. "Maliyetleri azaltmak ve/veya hesap verebilirliği saptırmak için 'AI' kullanarak bireyleri kurumsal ve devlet aşırı erişiminden koruyor." ®
Not: Yazar Charlie Stross'un önerilen kripto para birimi patlamasından sonraki bu son yapay zeka aldatmacasının zamanlaması tesadüf değil…
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- Plato blok zinciri. Web3 Metaverse Zekası. Bilgi Güçlendirildi. Buradan Erişin.
- Kaynak: https://go.theregister.com/feed/www.theregister.com/2023/02/27/openai_ceo_agi/
