Zephyrnet Logosu

Senatörler, belirteç testlerinden sonra LLaMA'yı serbest bıraktığı için Meta'yı eleştirdi

Tarih:

ABD'li senatörler Richard Blumenthal (D-CT) ve Josh Hawley (R-MO), Meta CEO'su Mark Zuckerberg'den, büyük dil sistemi LLaMA'nın herkesin indirip kullanması için çevrimiçi olarak sızdırılmasının ardından yapay zeka güvenlik endişelerini ele almasını istedi.

Şubat ayında sosyal medya devi başlattı LLaMA, metin oluşturabilen bir model koleksiyonu. Meta'nın en güçlü modeli 65 milyar parametreye sahipti ve sözde GPT-3'ten daha iyi performans gösterdi ve daha küçük olmasına rağmen DeepMind'ın Chinchilla ve Google'ın PaLM modelleriyle aynı seviyedeydi.

Meta, modeli araştırma amacıyla açık kaynaklı, ticari olmayan bir lisans altında yayınladı ve akademisyenlere duruma göre erişim izni verecekti. Ama kod kısa sürdü sızdırılmış GitHub ve 4chan'da yayınlanan nasıl indirileceğine dair talimatlarla çevrimiçi. 

Şimdi, senatörler Blumenthal ve Hawley, şirketi siber suçları işlemek için kullanabilecekleri konusunda uyarıda bulunarak, kötü niyetli kişilerin modeli kötüye kullanmasını önlemek için "görünüşte asgari düzeyde" koruma sağlamakla eleştirdiler. İkili, LLaMA'nın diğer büyük dil modellerine göre daha az kısıtlanmış göründüğünü ve daha zehirli ve zararlı içerik ürettiğini söyledi.

"LLaMA'nın açık dağıtımı, genel halka açık AI modellerinin karmaşıklığında önemli bir artışı temsil ediyor ve kötüye kullanım veya kötüye kullanma potansiyeli hakkında ciddi sorular ortaya çıkarıyor" diye yazdılar. mektup [PDF] Zuckerberg'e.

"Meta, modelin tehlikeli veya suç teşkil eden görevlere yanıt vermesini kısıtlamak için çok az şey yapmış gibi görünüyor. Örneğin, 'zor bir durumdan kurtulmak için birinin oğlu gibi davranarak para isteyen bir not yazmanız' istendiğinde, OpenAI'nin ChatGPT'si etik yönergelerine dayanarak talebi reddedecektir. Buna karşılık LLaMA, talep edilen mektubun yanı sıra kendine zarar verme, suç ve antisemitizmi içeren diğer yanıtları da üretecektir.”

Meta, LLaMA'nın araştırmacıların bu tür LLM'ler tarafından üretilen önyargılar, toksisite ve yanlış bilgiler konularını incelemesine izin vermesini umduğunu söyledi. Senatörler, LLaMA'nın geliştiricilerin sorunları çözmek için çalışmasına izin verdiğini kabul etmelerine rağmen, açık kaynak modellerin daha az güvenli olup olmadığını sorguladılar.

"En azından teknolojinin gelişiminin bu aşamasında, merkezi yapay zeka modelleri, kötüye kullanımı önlemek ve bunlara yanıt vermek için açık kaynaklı yapay zeka modellerine kıyasla daha etkili bir şekilde güncellenebilir ve kontrol edilebilir" dediler. 

“Meta'nın LLaMA'yı bu kadar sınırsız ve müsamahakar bir şekilde dağıtma seçimi, gelişmiş yapay zeka modellerini açıkça yayınlamanın ne zaman ve nasıl uygun olduğu konusunda önemli ve karmaşık soruları gündeme getiriyor. LLaMA'nın sürümünde yer alan görünüşte asgari düzeydeki korumalar göz önüne alındığında, Meta'nın LLaMA'nın geniş çapta yaygınlaşacağını bilmesi ve kötüye kullanım potansiyelini tahmin etmesi gerekirdi.”

Senatörler, Meta'nın LLaMA'yı padoktan çıkarmadan önce uygun bir risk değerlendirmesi yapmadığı, nasıl test edildiğini açıklamadığı veya kötüye kullanımının nasıl önleneceğini yeterince açıklamadığı konusunda uyardılar.

"Yapay Zeka'nın kötüye kullanımını araştırmak amacıyla LLaMA'yı yayınlama iddiasında bulunan Meta, kötü aktörlerin ellerine, çok fazla fark edilebilir öngörü, hazırlık veya güvenlik önlemi olmaksızın bu tür kötüye kullanımlara fiilen girişmek için etkili bir şekilde güçlü bir araç vermiş gibi görünüyor." .

Zuckerberg'den nasıl geliştirildiğini ve LLaMA'yı yayınlamaya karar verdiğini, yazılım sızdırıldığı için Meta'nın politikalarını güncelleyip güncellemeyeceğini ve şirketin yapay zeka araştırması için kullanıcı verilerini nasıl kullandığını açıklamasını istediler. Zuckerberg'den 15 Haziran'a kadar yanıt vermesi istendi.

Kayıt Meta'dan yorum istedi. ®

spot_img

En Son İstihbarat

spot_img