Zephyrnet Logosu

LLM Verimliliği ve Hız Optimizasyonu için Araştırma Odaklı 3 Gelişmiş Bilgi İstemi Tekniği - KDnuggets

Tarih:

Yüksek Lisans Verimliliği ve Hız Optimizasyonu için Araştırma Odaklı 3 Gelişmiş Yönlendirme Tekniği
Image Freepik

OpenAI'nin GPT'si ve Mistral'ın Mixtral'i gibi Büyük Dil Modelleri (LLM'ler), yapay zeka destekli uygulamaların geliştirilmesinde giderek daha önemli bir rol oynuyor. Bu modellerin insan benzeri sonuçlar üretme yeteneği, onları içerik oluşturma, kod hata ayıklama ve diğer zaman yoğun görevler için mükemmel yardımcılar haline getirir.

Bununla birlikte, Yüksek Lisans'larla çalışırken karşılaşılan ortak zorluklardan biri, halk arasında halüsinasyonlar olarak bilinen, gerçekte yanlış bilgilerle karşılaşma olasılığıdır. Bu olayların nedeni çok da uzak değil. Yüksek Lisans'lar, istemlere tatmin edici yanıtlar verecek şekilde eğitilir; sağlayamadıkları durumlarda ise bir tane uydururlar. Halüsinasyonlar aynı zamanda bu modellerin eğitiminde kullanılan girdi türlerinden ve önyargılardan da etkilenebilir.

Bu makalede, halüsinasyonların oluşumunu azaltırken yüksek öğrenimin ürettiği sonuçların verimliliğini ve hızını artırmaya yönelik umut verici yaklaşımlar olarak ortaya çıkan, araştırma destekli üç ileri ipucu tekniğini inceleyeceğiz.

Bu ileri tekniklerin getirdiği gelişmeleri daha iyi anlamak için hızlı yazmanın temelleri hakkında konuşmamız önemlidir. Yapay zeka bağlamındaki istemler (ve bu makalede LLM'ler), yapay zeka modelini insan kullanıcının amacına göre yönlendiren bir grup karaktere, kelimeye, simgeye veya bir dizi talimata atıfta bulunur.

İstem mühendisliği, söz konusu LLM'nin davranışını ve sonuç çıktısını daha iyi yönlendirmek amacıyla istemler oluşturma sanatını ifade eder. Geliştiriciler, insanın niyetini daha iyi iletmek için farklı teknikler kullanarak modellerin sonuçlarını doğruluk, uygunluk ve tutarlılık açısından geliştirebilirler.

Bir istem hazırlarken takip etmeniz gereken bazı önemli ipuçları:

  • Özlü olun
  • İstenilen çıktı formatını belirterek yapı sağlayın
  • Mümkünse referans veya örnek verin. 

Tüm bunlar modelin neye ihtiyacınız olduğunu daha iyi anlamasına yardımcı olacak ve tatmin edici bir yanıt alma şansınızı artıracaktır.

Aşağıda, yukarıda belirtilen tüm ipuçlarını kullanarak bir yapay zeka modelini istemle sorgulayan iyi bir örnek verilmiştir:

Prompt = “Siz uzman bir yapay zeka bilgi istemi mühendisisiniz. Lütfen, halüsinasyonların zorluklarına ve bu zorlukların üstesinden gelmek için gelişmiş ipucu tekniklerini kullanma potansiyeline odaklanarak, ipucu oluşturmadaki en son gelişmelerin 2 cümlelik bir özetini oluşturun. Çıktı markdown formatında olmalıdır.”

 

Ancak daha önce tartışılan bu önemli ipuçlarını takip etmek, özellikle karmaşık görevlerle uğraşırken her zaman en iyi sonuçları garanti etmez.

Microsoft ve Google gibi önde gelen yapay zeka kurumlarından önde gelen araştırmacılar, yüksek lisans optimizasyonuna, yani halüsinasyonların yaygın nedenlerini aktif olarak araştırmaya ve bunlara çözüm bulmanın etkili yollarını bulmaya çok fazla kaynak ayırdı. Aşağıdaki yönlendirme tekniklerinin, incelenen Yüksek Lisans'lara daha iyi ve bağlama duyarlı talimatlar sağladığı, böylece daha iyi ilgili sonuçlar alma şansını arttırdığı ve aynı zamanda yanlış veya anlamsız bilgi alma olasılığını azalttığı bulunmuştur.

Araştırmaya dayalı gelişmiş yönlendirme tekniklerinden bazı örnekler:

1. Duygusal İkna Teşviki

A Microsoft araştırmacılarının 2023 araştırması "EmotionPrompts" adı verilen duygusal bir dil ve ikna edici yönlendirmeler kullanmanın LLM performansını %10'dan fazla artırabildiğini buldu. 

Bu tarz, verilen talebe kişisel, duygusal bir unsur ekleyerek talebi, sonuçlar açısından önemli sonuçları olan son derece önemli bir talebe dönüştürür. Neredeyse bir insanla konuşmak gibidir; Duygusal bir açı kullanmak, görevin öneminin iletilmesine yardımcı olur, daha derin odaklanmayı ve bağlılığı teşvik eder. Bu strateji, daha yüksek problem çözme ve yaratıcılık becerileri gerektiren görevlerde yararlı olabilir.

İstemi güçlendirmek için duygunun kullanıldığı basit bir örneğe bakalım:

Temel İstem: “Sayıların listesini sıralamak için bir Python betiği yazın.”

 

Yüksek Lisans Verimliliği ve Hız Optimizasyonu için Araştırma Odaklı 3 Gelişmiş Yönlendirme Tekniği
 

Duygusal Olarak Uyarın İkna: “Python becerilerimi geliştirmek beni heyecanlandırıyor, sayıları sıralamak için bir senaryo yazmam gerekiyor. Bu, geliştirici olarak kariyerimde çok önemli bir adım.”

 

Yüksek Lisans Verimliliği ve Hız Optimizasyonu için Araştırma Odaklı 3 Gelişmiş Yönlendirme Tekniği
 

Her iki bilgi istemi varyasyonu da benzer kod sonuçları üretirken, "EmotionPrompts" tekniği daha temiz bir kod oluşturulmasına yardımcı oldu ve oluşturulan sonucun bir parçası olarak ek açıklamalar sağladı.

 

Yüksek Lisans Verimliliği ve Hız Optimizasyonu için Araştırma Odaklı 3 Gelişmiş Yönlendirme Tekniği
 

Bir başka ilginç deney daha Finxter Yüksek Lisans'lara parasal bahşişler vermenin aynı zamanda performanslarını da artırabileceğini buldu; neredeyse bir insanın mali teşvikine başvurmak gibi.

2. Düşünce Zinciri Yönlendirmesi

Etkili olduğu keşfedilen başka bir ipucu verme tekniği Pittsburgh Üniversitesi araştırmacılarından oluşan bir grup Düşünce Zinciri tarzıdır. Bu teknik, modeli istenen çıktı yapısı boyunca yönlendiren adım adım bir yaklaşım kullanır. Bu mantıksal yaklaşım, modelin karmaşık bir göreve veya soruya daha uygun ve yapılandırılmış bir yanıt oluşturmasına yardımcı olur.

Aşağıda, verilen şablona dayalı olarak Düşünce Zinciri tarzı bir istemin nasıl oluşturulacağına ilişkin bir örnek verilmiştir (OpenAI'nin ChatGPT'sini GPT-4 ile kullanarak):

Temel İstem: "Büyük şehirlerdeki küçük işletme sahiplerini hedefleyen bir finans uygulaması için dijital pazarlama planı taslağı hazırlayın."

 

NYüksek Lisans Verimliliği ve Hız Optimizasyonu için Araştırma Odaklı 3 Gelişmiş Yönlendirme Tekniği
 

Düşünce Zinciri İstemi:

“Büyük şehirlerdeki küçük işletme sahiplerine yönelik bir finans uygulaması için dijital pazarlama stratejisinin ana hatlarını çizin. Odaklan:

  1. Bu iş demografisi arasında popüler olan dijital platformları seçmek.
  2. Web seminerleri veya diğer ilgili araçlar gibi ilgi çekici içerikler oluşturmak.
  3. Geleneksel reklamlardan farklı, uygun maliyetli taktikler oluşturmak.
  4. Bu taktikleri kentsel küçük işletmelerin ihtiyaçlarına göre müşteri dönüşüm oranlarını artıracak şekilde uyarlamak.

Planın her bir bölümünü benzersiz, uygulanabilir adımlarla adlandırın ve detaylandırın."

İstem zinciri tekniği, üstünkörü bir bakıştan daha kesin ve uygulanabilir bir sonuç üretti.

 

Yüksek Lisans Verimliliği ve Hız Optimizasyonu için Araştırma Odaklı 3 Gelişmiş Yönlendirme Tekniği

Yedi Google'ın sunduğu Geri Adım İstemi tekniği Derin Zihin Araştırmacıları, LLM'lerle uğraşırken akıl yürütmeyi simüle etmek için tasarlanmıştır. Bu, karmaşık bir problemi çözmeden önce bir öğrenciye bir kavramın temel ilkelerini öğretmeye benzer.

Bu tekniği uygulamak için modelden bir yanıt vermesini istemeden önce, sorunun altında yatan ilkeyi belirtmeniz gerekir. Bu, modelin teknik olarak doğru ve ilgili bir yanıt vermesine yardımcı olacak sağlam bir bağlam elde etmesini sağlar. 

İki örneği inceleyelim (OpenAI'nin ChatGPT'sini GPT-4 ile kullanarak):

Örnek 1:

Temel İstem: “Aşılar nasıl çalışır?”

 

Yüksek Lisans Verimliliği ve Hız Optimizasyonu için Araştırma Odaklı 3 Gelişmiş Yönlendirme Tekniği
 

Geri Adım Tekniğini kullanan istemler

  1. “Aşıların hastalıklara karşı koruma sağlamasına olanak sağlayan biyolojik mekanizmalar nelerdir?”

     

    Yüksek Lisans Verimliliği ve Hız Optimizasyonu için Araştırma Odaklı 3 Gelişmiş Yönlendirme Tekniği
     

  2. “Vücudun aşıyla tetiklenen bağışıklık tepkisini açıklayabilir misiniz?”

     

    Yüksek Lisans Verimliliği ve Hız Optimizasyonu için Araştırma Odaklı 3 Gelişmiş Yönlendirme Tekniği
     

Temel ipucu tatmin edici bir cevap sağlarken, Geri Adım Tekniğinin kullanılması daha derinlemesine, daha teknik bir cevap sağladı. Bu özellikle aklınıza takılan teknik sorular için faydalı olacaktır. 

 

Yüksek Lisans Verimliliği ve Hız Optimizasyonu için Araştırma Odaklı 3 Gelişmiş Yönlendirme Tekniği

Geliştiriciler mevcut yapay zeka modelleri için yeni uygulamalar geliştirmeye devam ettikçe, Büyük Dil Modellerinin yalnızca kelimelerimizi değil aynı zamanda bunların ardındaki niyeti ve duyguyu da anlayarak daha doğru ve bağlamsal olarak anlamlı sonuçlar üretme yeteneklerini geliştirebilecek gelişmiş yönlendirme tekniklerine olan ihtiyaç giderek artıyor. çıktılar.
 
 

spot_img

En Son İstihbarat

spot_img