Genel olarak üretken yapay zeka modellerinin eğilimli olduğu anlaşılsa da halüsinasyon- yani gerçeğe meydan okuyarak gerçekleri ve diğer bilgileri uydurmak - OpenAI'nin amiral gemisi ChatGPT, Salı günü özellikle yaygın, büyük ölçüde eğlenceli bir tutarsızlık krizinden muzdaripti.
Twitter kullanıcısı Sean McGuire, "ChatGPT şu anda kontrolden çıkıyor gibi görünüyor ve kimse bunun nedenini açıklayamıyor" dedi. yazdı Salı günü geç saatlerde bazı yabancı örnekleri toplayan viral bir tweet'te.
Bozuk, yazım hatalarına maruz kalan bir yanıtta, "Fotoğraf ayarlayan dalgalardan ateşlenmiş, ürünü yönetici renginde bir fötr şapka altında bir dadı gibi derinden yuvalandıran" yazıyordu. Kullanıcı, "İnme mi geçiriyorsun?" diye yanıt verdi.
ChatGPT 4.0'ı kullanan McGuire, ChatGPT'den birinin de dahil olduğu ekran görüntülerini paylaştı ve hatta hatasını kabul etti: "Görünüşe göre önceki mesajımdaki teknik bir aksaklık mesajın tekrarlanmasına ve saçma bir bölüme sapmasına neden oldu." şuraya.
r/ChatGPT alt dizinindeki Reddit kullanıcıları da ChatGPT'den yayılan anlamsız sözlerin ekran görüntülerini yayınladı.
"Buna neyin sebep olduğu hakkında bir fikrin var mı?" Reddit kullanıcısı u/JustSquiggles posted, ChatGPT'den "fazla büyümüş" kelimesinin eşanlamlısını istediklerinde neler olduğunu paylaşıyorlar. Sohbet robotu durmadan önce 30 defadan fazla "'fazla büyümüş'ün eşanlamlısı 'fazla büyümüş', 'fazla büyümüş'tür" şeklinde bir döngüyle yanıt verdi.
Başka bir örnekte, u/toreachtheapex Reddit kullanıcısı ChatGPT'yi gösterdi yanıt Yanıt alanı dolana kadar "ve öyle" döngüsüyle. Kullanıcının "oluşturmaya devam et"i seçmesi veya yeni bir konuşma başlatması gerekir.
Reddit kullanıcısı u/Mr_Akihiro'ya göre sorun, metin tabanlı yanıtların ötesine uzanıyordu. ne zaman onlar istendiğinde ChatGPT, "tarlada oturan bir köpek" görüntüsü oluşturmak için ChatGPT görüntü oluşturucu bunun yerine, bir evin bölünmüş görüntüsü ile tahıl tarlası gibi görünen bir görüntü arasında oturan bir kedi görüntüsü oluşturdu.
Sorun o kadar yaygındı ki, saat 6'da (EST) OpenAI konuyu incelemeye başladı. OpenAI, "ChatGPT'den gelen beklenmedik yanıtlara ilişkin raporları araştırıyoruz" dedi. Durum sayfası dedim.
6:47 ET itibariyle OpenAI, sorunu tespit ettiğini ve düzeltmek için çalıştığını söyledi.
OpenAI durum raporunda "Sorun tespit edildi ve şu anda düzeltiliyor" denilerek destek ekibinin durumu izlemeye devam edeceği belirtildi.
Son olarak Çarşamba günü saat 11:14'te (EST) yapılan bir ağ güncellemesi, ChatGPT'nin "normal çalışmaya" geri döndüğünü söyledi.
Bu geçici aksaklık, yapay zeka araçlarının kullanıcılarına, onları destekleyen modellerin önceden haber verilmeden değişebileceğini ve bir gün görünüşte sağlam bir yazar ortağını ertesi gün manyak bir sabotajcıya dönüştürebileceğini hatırlatıyor.
halüsinasyonlar ChatGPT gibi büyük dil modelleri (LLM'ler) ile oluşturulan veriler, gerçek ve sadık türler halinde kategorize edilir. Gerçek halüsinasyonlar, ilk ABD Başkanının adının verilmesi gibi gerçek dünya gerçekleriyle çelişir.
Aslına sadık halüsinasyonlar, kullanıcı talimatlarından veya bağlamdan saparak, ABD ceza savunma avukatı ve hukuk profesörü vakasında olduğu gibi, haber veya tarih gibi alanlarda yanlışlıklara yol açıyor Jonathan TurleyNisan 2023'te ChatGPT tarafından cinsel saldırıyla suçlanan kişi.
OpenAI hemen yanıt vermedi azalmak en yorum isteği.
Düzenleyen Andrew Hayward
Kripto haberlerinden haberdar olun, gelen kutunuzda günlük güncellemeler alın.
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
- PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
- PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
- PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
- Kaynak: https://decrypt.co/218434/chatgpt-off-rails-hallucinations-openai-fixed
