CCC, bu yılki AAAS Yıllık Konferansında üç bilimsel oturumu destekledi ve şahsen katılamamanız durumunda, her oturumun özetini vereceğiz. Bugün oturumun Soru-Cevap bölümünde öne çıkanları özetleyeceğiz, “Büyük Dil Modelleri: Yardımcı Asistanlar, Romantik Ortaklar mı, Dolandırıcılar mı?Bu panelin moderatörlüğünde Dr.Maria Gini, CCC Konsey Üyesi ve Minnesota Üniversitesi'nde Bilgisayar Bilimi ve Mühendisliği profesörü Dr.Ece Kamar, Microsoft Research'te AI Frontiers Genel Müdürü, Dr.Hal Daumé III, Maryland Üniversitesi'nde Bilgisayar Bilimleri profesörü ve Dr.Jonathan May, Güney Kaliforniya Üniversitesi Bilgi Bilimleri Enstitüsü'nde Bilgisayar Bilimleri profesörü.

Aşağıda soru-cevap bölümünün büyüleyici özeti bulunmaktadır. "Büyük Dil Modelleri: Yardımcı Asistanlar, Romantik Ortaklar mı, Dolandırıcılar mı?başlıklı bir kılavuz yayınladıpanel. Yapay Zeka sevme yeteneğine sahip mi? Bu modellerin çocuklar üzerinde ne gibi etkileri olabilir? Amerika Birleşik Devletleri'nin yapay zeka yetenekleri nasıl bir araya geliyor? Aşağıdan öğrenin:

S: Yapay zeka dil modellerini çok dilli ve çok kültürlü bağlamlarda devreye alırken hangi uygulamaları yapmalıyız?

Dr. May: Gelişen teknoloji ve duvarların indirilmesinde insanların istediklerini yapabilmeleri kolaylaştırılmalı. Sadece benim değil herkesin yapmak istediği şey. Teşekkürler AI, bana odaklanmak harika ama genel olarak dünyanın geri kalanına dikkat etmeliyiz.

S: Bu genel sorunlardan bazıları – bu ilk kez gündeme getirilmiyor. Görünüşe göre topluluk bu konulara kendi kendine gelmeyecek. Hepinizin bu konuşmaları nasıl eyleme geçireceğinize dair fikirleriniz var mı diye merak ediyorum.

Dr. Kamar: Pek çok farklı tarafın oynayacağı roller var. Değerlendirme, farklı kültürleri ve popülasyonları temsil etmede çok önemlidir. Veri kümeleri dünya temsilinde çeşitliliğe sahip olmadığında ortaya çıkan sistemler temsili değildir. En iyi değerlendirme uygulamalarını, düzenlemeleri ve uyumluluk önlemlerini oluşturmak için çok fazla çalışma yapılması gerekiyor. Beyaz Saray taahhütlerde bulundu ve Yapay Zeka Haklar Bildirgesi Taslağı başlıyor. Birçok büyük zekanın birlikte çalıştığı, endüstri genelinde uygulanan süreçler var (mükemmel değil, ancak endüstri genelinde genelleme yapmak potansiyel var). Şu anda standart olarak başlama konusunda yakınsama sağlamak için toplantılar yapılıyor; muhtemelen gelecekteki düzenlemelerde. Değerlendirmeleri, güvenlik analizlerini vb. nasıl yaparız? Bu konuşmaların hiçbiri odada olması gereken çeşitliliğe sahip değil. Kararlar alınırken odada kimin olması gerektiğini düşünün.

Dr. Daumé: Sanırım insanlar özellikle yapay zeka konusunda düzenlemelerden bahsettiğinde herkesin aklına cezai düzenlemeler geliyor. Ancak bu aynı zamanda düzenlemeyi teşvik edici de olabilir. Politika yapıcılara ve NSF'ye fon sağlamak, ulus ve dünya olarak bize yardımcı olacak araçların geliştirilmesini teşvik edebilir.

Soru: ABD'de yapay zekaya sağlanan fon, dünyanın diğer yerleriyle karşılaştırıldığında çok geride. NSF'nin yeni yatırımı 20 milyon civarında, bu da sanayi yatırımlarıyla karşılaştırıldığında çok küçük bir rakam. Federal hükümet yıllardır yapılan çalışmalardan elde edilen raporları yayınladı ve sonuç, ABD'nin harekete geçmesi gerektiği yönünde. Ece'nin faz değişimi benzetmesini seviyorum. Sayılarla termodinamik sınır artıyor. Açık yapay zeka istiyoruz, bunun bedelini kim ödeyecek? Yeterli para yok. Önerileriniz neler? AI açılsın mı? Ancak açık erişim yayıncılığımız bile yok. Cumhurbaşkanına yasa çıkarmamasını tavsiye eder misiniz?

Dr. May: Sanırım para var; Birisi bana, hükümeti parçacıkları döndürmeye ikna etmeyi başardığınızı ama onu bize yönlendirmeyi başaramadığınızı söyledi.

Dr. Kamar: Bu modelleri oluşturan şirketlerin bu çıktıları elde etmelerinin nedeni, kaynakların merkezileştirilmesidir. Ölçekten alacağınız çok şey var. Pek çok farklı modele sahip olmak yerine ortak bir kaynak elde etmek için akademide yatırımları nasıl merkezileştireceğimizi düşünmeliyiz. Bunun sadece ölçekle ilgili olmadığını görüyoruz. Şu anda yapmamız gereken bir şey değil ama mevcut mimari pek iyi değil. İyi yapay zeka yeteneklerine sahip olmak yalnızca daha fazla para ve daha fazla güçle ilgili olmamalıdır.

S: Cevaplarda aşırı temsil yanlılığı. Nereden geldiğini biliyor muyuz? Ben bir matematikçiyim ve düşüncelerim, yuvarlama hatalarının önyargı ekleyen bir birleşimi olduğu yönünde mi? Eşit temsil olsaydı, eşit temsilin çıktısını vereceğini düşünürdüm, yoksa hala orada mı olur?

Dr. May: Pek çok şey işlevlerin artırılmasıyla ilgili. Yumuşak maksimum, antrenmanın önemli bir parçasıdır. En yüksek 1 numara olmak istiyor. Mükemmel bir dil çıktısı yok ama biraz önyargılı olmak istiyoruz'. Biz sadece insanlara verilecek zararı en aza indirmek istiyoruz ve çoğu zaman bunların farkına varamıyoruz. Anlamadan dağıtım bir sorundur. 

Dr. Daumé: Bu modellerle ilgili zorluklardan biri artık dar kapsamlı yapay zeka modellerinin bulunmamasıdır. Her şeyi yapabileceklerini söylüyorlar, bu yüzden her şeyi test etmek zor.

S: Yapay zekanın bir araç mı yoksa onun yerine geçecek bir araç mı olduğunu söylediniz, bunun ne yönde olacağını düşünüyorsunuz?

Dr. Daumé: Yenileme için daha fazla para harcanıyor.

S: Başlıkta romantik yapay zekadan bahsediliyordu. Bunun hakkında daha fazlasını öğrenmek istiyorum.

Dr. May: Modellerde, bunların romantik alternatifler olabilmesi için yeterli niyet yok, ancak onlar, var olmadıklarında bile kalıpları tanıma konusunda insanlar kadar iyiler.

Dr. Kamar: Yapay zekayı şu anda olduğu gibi düşünmemenizi tavsiye ederim. Geleceğe yansıtmaya çalışın; birkaç yıl içinde bu sistemlerin size göre kişiselleştirileceğini hayal edin. Bu sistemle nasıl bir ilişkiniz olacak?

Dr. May: Peki ama seni sevecek mi?

Dr. Kamar: Seni sevdiğini söyleyecektir.

Dr. May: Peki ama bu yeterli mi?

S: Yapay zeka alanında olmayan kişiler için tavsiyeler duymak istiyorum. Bu araçlarla nasıl etkileşime geçebiliriz? Ne bilmeliyiz?

Dr. Daumé: Maryland Üniversitesi'nde bu tür konuşmaları çok sık yapıyoruz. 5 yıl sonra gazeteciliğin ve diğer alanların da farklı olacağını söylemek benim için kolay. 5 yıl sonra profesörün rolü değişecek demek rahatsız edici ama olacak. Teklifler ve makaleler için farklı LLM eklentilerini kullanan meslektaşlarım var; zaten oluyor. Düzenli olarak araçlarla yazılan sınav sorularım oluyor ancak doğruluğunu kontrol etmem gerekiyor. Sınav soruları yazmak bana keyif vermiyor, bu yüzden yapay zeka bu konuyu üzerimden kaldırabilir. Yükseköğretimde bu konuyu daha fazla düşünmemiz gerekiyor. İşlerimizi nasıl dönüştürüyor? Üniversitelerde çok sayıda tartışma sürüyor, ancak çok fazla kaynağın bir araya toplanması söz konusu değil.

S: Gelecekte askeri uygulamalar göz önüne alındığında yapay zekanın değerlendirilmesi ne kadar hoş karşılanır? Bu oturumda askeri uygulamalardan hiç bahsedilmedi; eğer insanları yarıya kadar doğru okursam bu konuda görüş ayrılığı olacağını biliyorum.

Dr. May: Ordunun geniş bir alanı var, çalışmalarımın çoğu savunma bakanlığı tarafından destekleniyor. Spesifik olarak yanıtlamak zor, genel olarak savunma bakanlığı (onlar adına konuşmuyoruz) ABD'nin güvenliğine ve emniyetine öncelik veriyor gibi görünüyor ve bunu yapmaya devam edecek ve ABD'nin güvende olmasına yardımcı olmak için Yüksek Lisans ve Yapay Zeka'dan yararlanacak.

Dr. Kamar: İkili kullanımdan da bahsetmemiz gerekiyor. Biyoloji veya siber güvenlik alanında yürütülen askeri çalışmaları ele alırsanız, şu anda sahip olduğumuz çok umut verici araçları alıp kullanabiliriz çünkü güvenli sistemler ve yeni ilaçlar istiyoruz. Ama her iyi kullanımın yanında kötü bir kullanımınız olacaktır. Yapay zekanın kullanılmasını istemediğimiz kullanım durumları nelerdir? Açık kaynaklı uygulamalarda insanlar bu modelleri çoğaltabilmektedir. Bu durumlarda insanların zarar vermesini nasıl önleyebiliriz?

S: Yetişkinler dil modelleriyle etkileşime girdiklerinde bunun canlı/kendinin farkında olmadığını anlıyorlar, peki ya birkaç nesil sonra; Sosyalleşmeyi hatırladıklarından beri bu hastalığa sahip olan çocuklar? Tamamen yapay zeka olan bir öğretmenleri veya öğretmenleri var; Sistem bir eğitmen ile gömülüdür. Talimatla bir bağ kurabilirler, harika bir ilişkileri olduğunu düşünebilirler ve sonra program silinir. Kişi olmayan varlıklarla sosyal duygusal bağların çocuk psikolojisi nedir?

Dr. Kamar: Araştırmaya, disiplinlerarası araştırmaya ihtiyacımız var ve buna hızlı bir şekilde ihtiyacımız var. 5 yıl içinde bu cevapları alabiliriz ama bu süre içinde yapay zeka, 10 yaşındaki çocuğumun hayatının büyük bir parçası haline gelebilir. Sorunuz son derece önemlidir. Masum sistemlerin bile arka kapılarının olabileceğini gösteren araştırmalar var. Bugün bu konuşmaları yapacak güvenlik uzmanlarına ve çocuk gelişimi uzmanlarına ihtiyacımız var.

Dr. Daumé: Gözetim Barbie'sini hatırlayan var mı bilmiyorum; burada büyük bir mahremiyet sorunu var. Daha ilginç bir sosyal mesele. Yanıtlar aşırı olumlu olacak şekilde ayarlandı. Çocuklar Sally'nin benimle oynamaması ve sosyal açıdan uygun önerilerde bulunmaması nedeniyle kızgınım gibi şeyler söylerler. Çok olumlu temsilciler konusunda endişeleniyorum çünkü olumluluk her zaman doğru cevap değildir.

Okuduğunuz için çok teşekkür ederiz. AAAS 2024'teki üçüncü ve son panelimizin özeti için bizi takip etmeye devam edin.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/