Şimdi Gemini olarak adlandırılan Google'ın Bard'ının ne zaman olduğunu hatırlıyor musunuz? James Webb Uzay Teleskobu hakkındaki soruyu yanıtlayamadım lansman reklamında? Bu ünlü vaka hakkında hafızanızı tazelememe izin verin; bu, gördüğümüz en büyük yapay zeka halüsinasyon örneklerinden biridir.

Ne oldu? Reklam sırasında Google Bard demosunda şu soru soruldu: "James Webb Uzay Teleskobu'ndaki hangi yeni keşifleri 9 yaşındaki çocuğumla paylaşabilirim?" Kısa bir aradan sonra Google Bard demosu iki doğru yanıt verdi. Ancak son cevabı yanlıştı. Google Bard demosuna göre teleskop, güneş sistemimizin dışındaki bir gezegenin ilk görüntülerini yakalamıştı. Ancak gerçekte, Avrupa Güney Gözlemevi'ndeki Çok Büyük Teleskop, NASA'nın arşivlerinde saklanan bu "dış gezegenlerin" görüntülerini zaten çekmişti.

Aptallık etmek istemem, Bard'ın etkileyici olacağına eminim ama bilginiz olsun: JWST “güneş sistemimizin dışındaki bir gezegenin ilk görüntüsünü” çekmedi.

ilk görüntü bunun yerine Chauvin ve arkadaşları tarafından yapıldı. (2004) uyarlanabilir optik kullanan VLT/NACO ile. https://t.co/bSBb5TOeUW pic.twitter.com/KnrZ1SSz7h

— Grant Tremblay (@astrogrant) Şubat 7, 2023

Google gibi teknoloji devleri neden bu tür hataların önüne geçemiyor? Hadi bulalım!

Yapay zeka halüsinasyonu nedir?

Yapay zeka halüsinasyonu, genellikle yapay zeka (AI) tarafından desteklenen bir bilgisayar programının yanlış, anlamsız veya yanıltıcı çıktılar üretmesi durumunda ortaya çıkar. Bu terim genellikle yapay zeka modellerinin tamamen yoldan sapan veya kendilerine verilen girdiyle ilgisi olmayan yanıtlar ürettiği durumları tanımlamak için kullanılır. Bu, bir soru sorup hiçbir anlam ifade etmeyen ya da hiç beklediğiniz gibi olmayan bir cevap almak gibidir.

Anlamak neden yapay zeka halüsinasyonları O halde yapay zekanın nasıl çalıştığına bakalım. Sohbet robotları veya görüntü tanıma sistemleri gibi yapay zeka modelleri, kalıpları öğrenmek ve tahminlerde bulunmak için büyük veri kümeleri üzerinde eğitilir. Ancak eğitim verileri kusurlu, eksik veya önyargılıysa yapay zeka modeli yanlış kalıpları veya ilişkileri öğrenebilir. Bu, yapay zekanın hatalı veya yanlış anlaşılan bilgilere dayalı yanıtlar ürettiği halüsinasyonlu çıktılara yol açabilir. Ve siz fark etmeseniz bile bu durum sıklıkla meydana gelir.

Yapay zeka halüsinasyonları, her biri yapay zeka sistemlerindeki farklı zorlukları ve karmaşıklıkları vurgulayan çeşitli şekillerde ortaya çıkabilir. İşte bazı yaygın AI halüsinasyon türleri:

• Cümle AI halüsinasyonu:
  • Bu senaryoda yapay zeka modeli, aynı bağlamdaki önceki bir ifadeyle çelişen bir cümle üretiyor. Örneğin:
    • Komut: "Bir karakterin yolculuğunu üç kelimelik cümlelerle anlatın."
    • Çıktı: “Yavaş yürüdü. Aniden koştu. Sonra yürüdü."

Son cümle, daha önceki koşma eylemiyle çelişiyor ve anlatının tutarlılığını bozuyor.

• İstemi AI halüsinasyonu:
  • Bu tür, yapay zeka tarafından oluşturulan yanıtın amaçlanan bilgi istemi veya sorguyla çakışması durumunda ortaya çıkar. Örneğin:
    • Komut istemi: "Çikolatalı kek için bir tarif yazın."
    • Çıktı: “İşte yıldızlarla ilgili bir şiir.”

Oluşturulan içerik, yemek pişirmeyle ilgili istemi karşılamıyor, bu da bağlamın kavranmadığını gösteriyor.

• Gerçek AI halüsinasyonu:
  • Yapay zeka modeli yanlış bilgiyi doğru olarak sunduğunda gerçek çelişkiler ortaya çıkar. Örneğin:
    • Komut: "Periyodik tablodaki üç elementi listeleyin."
    • Çıktı: “Hidrojen, Oksijen, Karbonit.”

“Karbonit” yanıtta yanlış bilgilendirmeye yol açacak bir unsur değil.

• Alakasız veya rastgele AI halüsinasyonları:
  • Bu halüsinasyonlar, girdiyle ilgisi olmayan alakasız veya anlamsız bilgilerin üretilmesini içerir. Örneğin:
    • Komut: “Plajda geçirdiğiniz bir günü anlatın.”
    • Çıktı: “Kum sıcaktı. Martılar caz söylüyordu. Penguenler bale yaptı.”

Penguenlerden ve baleden bahsedilmesi tipik plaj sahnesiyle örtüşmüyor ve oluşturulan anlatıda tutarlılık eksikliği olduğunu gösteriyor.

Bu tür halüsinasyonlar, yapay zeka sistemlerinin bilgiyi doğru bir şekilde anlama ve bağlamsallaştırma konusunda karşılaştığı zorlukların altını çiziyor. Bu sorunların ele alınması, eğitim verilerinin kalitesinin iyileştirilmesini, dil modellerinin bağlam anlayışının iyileştirilmesini ve yapay zeka tarafından oluşturulan çıktıların tutarlılığını ve doğruluğunu sağlamak için güçlü doğrulama mekanizmalarının uygulanmasını gerektirir.

Yapay zeka halüsinasyonları, özellikle tıbbi teşhis veya finansal ticaret gibi yapay zekanın önemli kararlar vermek için kullanıldığı uygulamalarda ciddi sonuçlara yol açabilir. Bir yapay zeka sistemi halüsinasyon görürse ve bu bağlamlarda yanlış bilgi sağlarsa zararlı sonuçlara yol açabilir.

AI halüsinasyonları hakkında ne yapabilirsiniz?

Yapay Zeka halüsinasyonlarını azaltmak, Yapay Zeka sistemlerini daha doğru ve güvenilir hale getirmek için birkaç önemli adımı içerir:

Öncelikle yapay zekayı eğitmek için kaliteli veriler kullanmak çok önemlidir. Bu, yapay zekanın öğrendiği bilgilerin çeşitli, doğru ve önyargılardan arınmış olduğundan emin olmak anlamına gelir.

Yapay zeka modellerini basitleştirmek de yardımcı olabilir. Karmaşık modeller bazen beklenmedik hatalara yol açabilir. İşleri basit tutarak hata olasılığını azaltabiliriz.

Açık ve anlaşılması kolay talimatlar da önemlidir. Yapay zeka net girdiler aldığında kafasının karışması ve hata yapması daha az olasıdır.

Düzenli testler, hataların erkenden tespit edilmesine yardımcı olur. Yapay zekanın ne kadar iyi performans gösterdiğini kontrol ederek sorunları çözebilir ve iyileştirmeler yapabiliriz.

Yapay zeka sistemlerine kontroller eklemek de yardımcı olabilir. Bu kontroller hataları tespit eder ve sorun yaratmadan önce bunları düzeltir.

En önemlisi insan gözetimi çok önemli. İnsanların yapay zeka tarafından oluşturulan çıktıları iki kez kontrol etmesini sağlamak, doğruluk ve güvenilirlik sağlar.

Son olarak, yapay zekayı saldırılara karşı savunma konusunda eğitmek onu daha dayanıklı hale getirebilir. Bu, yapay zekanın onu manipüle etme veya kandırma girişimlerini tanımasına ve bunlarla başa çıkmasına yardımcı olur.

Bu adımları izleyerek yapay zeka sistemlerini daha güvenilir hale getirebilir ve halüsinasyonlu çıktı olasılığını azaltabiliriz.

Bir yapay zekanın halüsinasyon görmesini nasıl sağlarsınız?

Bu kusurdan yararlanmak ve biraz eğlenmek istiyorsanız birkaç şey yapabilirsiniz:

• Girişi değiştir: Yapay zekaya verilen bilgileri değiştirebilirsiniz. Küçük değişiklikler bile tuhaf veya yanlış yanıtlar üretilmesine neden olabilir.
• Modeli kandırmak: Yapay zekayı yanlış yanıtlar vermeye kandıracak özel girdiler oluşturun. Bu hileler, halüsinasyonlu çıktılar yaratmak için modelin zayıf noktalarından yararlanıyor.
• Verilerle uğraşma: Yapay zekanın eğitim verilerine veya isteminize yanıltıcı veya yanlış bilgi ekleyerek, onun yanlış şeyleri öğrenmesini ve halüsinasyonlar üretmesini sağlayabilirsiniz.
• Modeli ayarlayın: Kusurları veya önyargıları ortaya çıkarmak için yapay zekanın ayarlarını veya yapısını değiştirin. Bu değişiklikler garip veya anlamsız çıktılar üretmesine neden olabilir.
• Kafa karıştırıcı girdiler verin: Yapay zekaya net olmayan veya çelişkili talimatlar verin. Bu, yapay zekanın kafasını karıştırabilir ve yanlış veya anlamsız yanıtlara yol açabilir.

Veya sadece soru sorabilir ve şansınızı deneyebilirsiniz! Örneğin, ChatGPT'nin halüsinasyon yaratmasını denedik:

ChatGPT tarihi ve skoru doğru bir şekilde hatırlasa da penaltı atışlarının golcülerini hatırlamakta tereddüt ediyor. Galatasaray'da golleri Ergün Penbe, Hakan Şükür, Ümit Davala ve Popescu kaydetti. Arsenal tarafında Ray Parlour penaltıyı atan tek başarılı oyuncuydu.

Yapay zekayı halüsinasyona uğratmak, sınırlarını anlamamıza yardımcı olsa da bu bilgiyi sorumlu bir şekilde kullanmak ve yapay zeka sistemlerinin güvenilir ve güvenilir kalmasını sağlamak önemlidir.

GPT 4 daha az halüsinasyon mu görüyor?

Evet, göre değerlendirme Palo Alto merkezli şirket tarafından Halüsinasyon Değerlendirme Modeli kullanılarak gerçekleştirildi, GPT 4 Intel Neural Chat 7B (%97.2) dışındaki diğer büyük dil modelleriyle karşılaştırıldığında daha düşük halüsinasyon oranı gösterir. %97'lik doğruluk oranı ve %3'lük halüsinasyon oranıyla GPT-4, yüksek düzeyde doğruluk ve belgeleri özetlerken nispeten düşük halüsinasyon eğilimi sergiliyor. Bu, değerlendirmede test edilen diğer modellerle karşılaştırıldığında GPT-4'ün hatalı veya anlamsız çıktılar üretmeye daha az eğilimli olduğunu gösterir.

Diğer taraftan, en az etkili modellerden birkaçı Google'dan geldi. Google Palm 2 %90 doğruluk oranı ve %10 halüsinasyon oranı gösterdi. Sohbetle geliştirilmiş versiyonu, yalnızca %84.2'lik bir doğruluk oranıyla ve %16.2 ile liderlik tablosundaki herhangi bir model arasında en yüksek halüsinasyon puanıyla daha da kötü bir performans sergiledi. İşte liste:

Özetle, yapay zeka halüsinasyonu, yapay zeka sistemlerinin, eğitim verilerindeki kusurlar veya bilgileri işleme biçimleri nedeniyle saçma veya yanlış çıktılar ürettikleri bir hatadır. Bu, araştırmacıların ve geliştiricilerin ele almaya çalıştığı yapay zekanın büyüleyici ama bir o kadar da zorlu bir yönü.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://dataconomy.com/2024/04/11/what-exactly-is-an-ai-hallucination-and-why-does-it-matter/