CCC mendukung tiga sesi ilmiah pada Konferensi Tahunan AAAS tahun ini, dan jika Anda tidak dapat hadir secara langsung, kami akan merangkum setiap sesi. Hari ini, kami akan merangkum hal-hal penting dari sesi tanya jawab, “Model Bahasa Besar: Asisten yang Bermanfaat, Mitra Romantis, atau Penipu?” Panel ini, dimoderatori oleh Dr.Maria Gini, Anggota Dewan CCC dan profesor Ilmu & Teknik Komputer di Universitas Minnesota, menampilkan Dr.Ece Kamar, Direktur Pelaksana AI Frontiers di Microsoft Research, Dr. Hal Daumé III, profesor Ilmu Komputer di Universitas Maryland, dan Dr.Jonatan Mei, profesor Ilmu Komputer di Institut Ilmu Informasi Universitas Southern California.

Di bawah ini adalah ringkasan menarik dari bagian Tanya Jawab "Model Bahasa Besar: Asisten yang Bermanfaat, Mitra Romantis, atau Penipu?"panel. Apakah AI mampu mencintai? Dampak apa yang mungkin ditimbulkan oleh model ini terhadap anak-anak? Bagaimana perkembangan kemampuan AI Amerika Serikat? Cari tahu di bawah:

T: Saat menerapkan model bahasa AI dalam konteks multibahasa dan multikultural, praktik apa yang harus kita lakukan?

Dr. May: Dalam mengembangkan teknologi dan meruntuhkan tembok, orang harus lebih mudah melakukan apa yang ingin mereka lakukan. Apa yang semua orang ingin lakukan, bukan hanya saya. Terima kasih AI, bagus untuk fokus pada saya, tapi kita harus memperhatikan seluruh dunia secara umum.

T: Beberapa permasalahan umum ini – ini bukan kali pertama diangkat. Tampaknya komunitas tidak akan melakukan hal ini dengan sendirinya. Saya ingin tahu apakah Anda semua punya ide tentang cara mewujudkan percakapan ini?

Dr Kamar: Ada peran yang harus dimainkan oleh banyak pihak. Evaluasi sangat penting dalam mewakili budaya dan populasi yang berbeda. Ketika kumpulan data tidak memiliki keberagaman dalam representasi dunia, sistem yang dihasilkan tidak representatif. Banyak pekerjaan yang perlu dilakukan dalam membentuk praktik evaluasi terbaik, peraturan dan langkah-langkah kepatuhan. Gedung Putih telah membuat komitmen, dan Cetak Biru RUU Hak Asasi Manusia (AI) telah dimulai. Ada proses yang diterapkan di seluruh industri, dengan banyak pemikir hebat yang bekerja sama (tidak sempurna, tetapi melakukan generalisasi di seluruh industri merupakan potensi). Terdapat pertemuan-pertemuan yang dilakukan untuk mencapai konvergensi mengenai standar yang saat ini dimulai; mungkin dalam peraturan di masa depan. Bagaimana kita melakukan evaluasi, analisis keselamatan, dll.? Tak satu pun dari percakapan ini memiliki keberagaman yang perlu ada di dalam ruangan. Pikirkan tentang siapa yang perlu hadir saat keputusan dibuat.

Dr. Daumé: Saya pikir ketika orang berbicara tentang regulasi, terutama di bidang AI, semua orang berpikir tentang peraturan yang bersifat menghukum. Namun hal ini juga bisa menjadi insentif regulasi. Mendanai pembuat kebijakan dan NSF dapat mendorong pengembangan alat yang membantu kita sebagai bangsa dan dunia.

T: Pendanaan untuk AI di Amerika masih tertinggal dibandingkan negara lain di dunia. Investasi baru yang dilakukan NSF berjumlah 20 juta dolar, jumlah yang sangat kecil jika dibandingkan dengan investasi industri. Pemerintah federal telah merilis laporan penelitian selama bertahun-tahun, dan kesimpulannya adalah Amerika harus segera melanjutkan upayanya. Saya suka analogi perubahan fase Ece. Batas termodinamika dengan angka semakin bertambah. Kami ingin AI terbuka, siapa yang akan membayarnya? Tidak ada cukup uang. Apa saran Anda? Buka AI? Namun kami bahkan tidak memiliki penerbitan akses terbuka. Apakah Anda akan merekomendasikan kepada presiden untuk tidak memiliki undang-undang?

Dr May: Saya pikir ada uang; seseorang mengamati saya bahwa Anda telah berhasil meyakinkan pemerintah untuk memutar partikel, namun belum mampu mengalihkannya kepada kami.

Dr. Kamar: Alasan perusahaan yang membangun model ini mendapatkan keluaran ini adalah melalui sentralisasi sumber daya. Ada banyak hal yang Anda dapatkan dari skala. Kita harus memikirkan bagaimana kita memusatkan investasi di dunia akademis sehingga kita mendapatkan sumber daya bersama daripada memiliki banyak model yang berbeda. Kami melihat ini bukan hanya soal skala. Bukan sesuatu yang harus kita lakukan saat ini, namun arsitektur yang ada saat ini tidaklah bagus. Memiliki kemampuan AI yang baik tidak hanya berarti lebih banyak uang dan lebih banyak kekuatan.

T: Bias representasi yang berlebihan dalam jawaban. Tahukah kita dari mana asalnya? Saya seorang ahli matematika, dan menurut saya apakah kesalahan pembulatan yang menambah bias? Jika representasi sama, saya membayangkan itu akan menghasilkan representasi yang sama, atau akankah tetap ada?

Dr May: Banyak hal yang berkaitan dengan fungsi spiking. Soft maksimum adalah bagian penting dari pelatihan. Yang tertinggi ingin menjadi #1. Ini tidak berarti ada keluaran bahasa yang sempurna, tapi kami ingin memiliki bias'. Kami hanya ingin meminimalkan dampak buruk terhadap manusia, dan sering kali kami tidak menyadari hal ini. Penerapan tanpa pemahaman adalah sebuah masalah. 

Dr. Daumé: Salah satu tantangan dalam model ini adalah tidak ada lagi model AI yang sempit. Mereka bilang mereka bisa melakukan apa saja, jadi sulit untuk menguji semuanya.

T: Anda menyebutkan AI sebagai alat atau pengganti, menurut Anda apa yang akan terjadi?

Dr Daumé: Ada lebih banyak uang untuk penggantian.

Q: Judulnya menyebutkan AI romantis. Saya ingin tahu lebih banyak tentang itu.

Dr. May: Tidak ada niat yang cukup dalam para model untuk menjadikan mereka pengganti romantis, tapi mereka sama baiknya dengan manusia dalam mengenali pola meskipun pola tersebut tidak ada.

Dr Kamar: Saya menyarankan Anda untuk tidak berpikir tentang AI seperti sekarang ini. Cobalah untuk memproyeksikan ke masa depan – bayangkan dalam beberapa tahun, sistem ini akan dipersonalisasi untuk Anda. Hubungan apa yang akan Anda miliki dengan sistem itu?

Dr May: Tapi apakah ia akan mencintaimu?

Dr Kamar: Ia akan memberitahu Anda bahwa ia mencintaimu.

Dr May: Tapi apakah itu cukup?

T: Saya ingin mendengar saran untuk orang-orang yang tidak berkecimpung di bidang AI. Bagaimana kita dapat berinteraksi dengan alat-alat ini? Apa yang harus kita ketahui?

Daumé: Di Universitas Maryland, kami sering membicarakan hal ini. Mudah bagi saya untuk mengatakan bahwa jurnalisme akan berbeda dalam 5 tahun, dan bidang lainnya juga. Tidak nyaman untuk mengatakan bahwa peran profesor akan berbeda dalam 5 tahun, tetapi hal itu akan terjadi. Saya memiliki kolega yang menggunakan plug-in LLM berbeda untuk proposal dan makalah; itu sudah terjadi. Saya secara teratur memiliki soal-soal ujian yang ditulis dengan alat, tetapi saya harus memeriksa keakuratannya. Menulis soal ujian tidak membuat saya senang, jadi AI dapat menghilangkannya. Di pendidikan tinggi, kita harus lebih memikirkannya. Bagaimana hal ini mengubah pekerjaan kita? Ada banyak diskusi yang terjadi di universitas, namun tidak banyak sumber daya yang dikumpulkan.

T: Seberapa baik AI untuk dinilai di masa depan ketika mempertimbangkan aplikasi militer? Aplikasi militer tidak disebutkan dalam sesi ini – saya tahu jika saya membaca sebagian orang dengan benar, ada perbedaan pendapat mengenai topik tersebut.

Dr. May: Militer itu luas, banyak pekerjaan saya disponsori oleh departemen pertahanan. Sulit untuk dijawab secara spesifik, secara umum departemen pertahanan (bukan mewakili mereka) tampaknya memprioritaskan keselamatan dan keamanan AS, dan akan terus melakukan hal tersebut serta memanfaatkan LLM dan AI untuk membantu AS agar aman.

Dr Kamar: Kita juga perlu membicarakan penggunaan ganda. Jika kita mengambil contoh pekerjaan militer di bidang biologi atau keamanan siber, kita dapat menggunakan alat yang sangat menjanjikan yang kita miliki saat ini dan menggunakannya karena kita menginginkan sistem yang aman dan obat-obatan baru. Namun setiap penggunaan yang baik pasti akan ada penggunaan yang buruk. Kasus penggunaan apa yang tidak kita inginkan untuk menggunakan AI? Dalam aplikasi open source, orang dapat mereplikasi model ini. Bagaimana kita mencegah orang melakukan tindakan yang merugikan dalam kasus ini?

T: Saat berinteraksi dengan model bahasa, orang dewasa memahami bahwa model tersebut tidak hidup/sadar diri, tetapi bagaimana dengan beberapa generasi kemudian; anak-anak yang mengidapnya sejak mereka ingat bersosialisasi? Mereka memiliki tutor atau guru yang sepenuhnya AI; sistem tertanam dengan instruktur. Mereka dapat menjalin ikatan dengan instruksi, berpikir bahwa mereka memiliki hubungan yang baik, dan kemudian program tersebut dihapus. Bagaimana psikologi anak tentang ikatan sosial emosional dengan entitas non-manusia?

Dr Kamar: Kita memerlukan penelitian, penelitian interdisipliner, dan kita membutuhkannya dengan cepat. Dalam 5 tahun, kita mungkin mendapatkan jawaban-jawaban ini, namun pada saat itu AI mungkin akan menjadi bagian besar dalam kehidupan anak saya yang berusia 10 tahun. Pertanyaan Anda sangat penting. Ada penelitian yang menunjukkan bahkan sistem yang tidak bersalah pun mungkin memiliki pintu belakang. Kita perlu memiliki pakar keamanan dan spesialis perkembangan anak untuk membahas hal tersebut saat ini.

Daumé: Saya tidak tahu apakah ada yang ingat pengawasan Barbie – ada masalah privasi yang besar di sini. Ini adalah masalah sosial yang lebih menarik. Tanggapannya disetel menjadi terlalu positif. Anak-anak akan mengatakan hal-hal seperti saya marah karena Sally tidak bermain dengan saya, dan hal itu tidak memberikan saran yang pantas secara sosial. Saya khawatir terhadap agen yang sangat positif, karena sikap positif tidak selalu merupakan jawaban yang tepat.

Terima kasih banyak telah membaca, dan nantikan rekap panel ketiga dan terakhir kami di AAAS 2024.

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
• PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
• PlatoESG. Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
• PlatoHealth. Kecerdasan Uji Coba Biotek dan Klinis. Akses Di Sini.
• Sumber: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/