Imagini de Freepik
Modelele de limbaj mari (LLM) precum GPT de la OpenAI și Mixtral de la Mistral joacă din ce în ce mai mult un rol important în dezvoltarea aplicațiilor bazate pe inteligență artificială. Capacitatea acestor modele de a genera rezultate asemănătoare oamenilor le face asistenții perfecti pentru crearea de conținut, depanarea codului și alte sarcini care necesită mult timp.
Cu toate acestea, o provocare comună cu care se confruntă atunci când se lucrează cu LLM este posibilitatea de a întâlni informații incorecte, cunoscute în mod popular sub numele de halucinații. Motivul acestor apariții nu este exagerat. LLM-urile sunt instruite pentru a oferi răspunsuri satisfăcătoare la solicitări; în cazurile în care nu pot oferi unul, ei evocă unul. Halucinațiile pot fi, de asemenea, influențate de tipul de inputuri și părtiniri folosite în antrenamentul acestor modele.
În acest articol, vom explora trei tehnici avansate de stimulare susținute de cercetare care au apărut ca abordări promițătoare pentru reducerea apariției halucinațiilor, îmbunătățind în același timp eficiența și viteza rezultatelor produse de LLM.
Pentru a înțelege mai bine îmbunătățirile aduse de aceste tehnici avansate, este important să vorbim despre elementele de bază ale scrierii prompte. Prompt-urile în contextul AI (și în acest articol, LLM) se referă la un grup de caractere, cuvinte, jetoane sau un set de instrucțiuni care ghidează modelul AI cu privire la intenția utilizatorului uman.
Ingineria promptă se referă la arta de a crea solicitări cu scopul de a dirija mai bine comportamentul și rezultatul rezultat al LLM în cauză. Folosind diferite tehnici pentru a transmite mai bine intenția umană, dezvoltatorii pot îmbunătăți rezultatele modelelor în ceea ce privește acuratețea, relevanța și coerența.
Iată câteva sfaturi esențiale pe care ar trebui să le urmați atunci când creați un prompt:
- Fii concis
- Furnizați structura prin specificarea formatului de ieșire dorit
- Dați referințe sau exemple dacă este posibil.
Toate acestea vor ajuta modelul să înțeleagă mai bine de ce aveți nevoie și vor crește șansele de a obține un răspuns satisfăcător.
Mai jos este un exemplu bun care interogează un model AI cu un prompt folosind toate sfaturile menționate mai sus:
Prompt = „Ești un inginer expert de prompt AI. Vă rugăm să generați un rezumat de 2 propoziții cu cele mai recente progrese în generarea promptă, concentrându-se pe provocările halucinațiilor și pe potențialul utilizării tehnicilor avansate de promptare pentru a aborda aceste provocări. Ieșirea ar trebui să fie în format de reducere.”
Cu toate acestea, respectarea acestor sfaturi esențiale discutate mai devreme nu garantează întotdeauna rezultate optime, mai ales atunci când aveți de-a face cu sarcini complexe.
Cercetători de frunte de la instituții proeminente de inteligență artificială precum Microsoft și Google au investit o mulțime de resurse în optimizarea LLM, adică studiind în mod activ motivele comune ale halucinațiilor și găsind modalități eficiente de a le aborda. S-a constatat că următoarele tehnici de stimulare oferă instrucțiuni mai bune și conștiente de context pentru LLM-urile studiate, crescând astfel șansele de a obține rezultate relevante mai bune și, de asemenea, reducând probabilitatea de a obține informații inexacte sau fără sens.
Iată câteva exemple de tehnici avansate de promptare bazate pe cercetare:
1. Stimularea persuasiunii emoționale
A Studiu din 2023 realizat de cercetătorii Microsoft a descoperit că utilizarea unui limbaj emoțional și a sugestiilor persuasive, numite „EmotionPrompts”, poate îmbunătăți performanța LLM cu peste 10%.
Acest stil adaugă un element personal, emoțional promptului dat, transformând cererea într-una foarte importantă, cu consecințe semnificative pentru rezultate. Este aproape ca și cum ai vorbi cu un om; folosirea unui unghi emoțional ajută la comunicarea importanței sarcinii, stimulând concentrarea și angajamentul mai profund. Această strategie poate fi utilă pentru sarcini care necesită abilități mai mari de rezolvare a problemelor și creativitate.
Să aruncăm o privire la un exemplu simplu în care emoția este folosită pentru a îmbunătăți promptul:
Solicitare de bază: „Scrieți un script Python pentru a sorta o listă de numere.”
Prompt cu emoțional Convingere: „Emotionat să-mi progresez abilitățile Python, trebuie să scriu un script pentru a sorta numerele. Acesta este un pas crucial în cariera mea de dezvoltator.”
În timp ce ambele variații prompte au produs rezultate similare de cod, tehnica „EmotionPrompts” a ajutat la crearea unui cod mai curat și a oferit explicații suplimentare ca parte a rezultatului generat.
Un alt experiment interesant de Finxter a constatat că oferirea de sfaturi bănești pentru LLM poate, de asemenea, să le îmbunătățească performanța – aproape ca apelarea la stimulentele financiare ale unui om.
2. Îndemnarea lanțului de gândire
O altă tehnică de stimulare descoperită pentru eficacitatea sa de a grup de cercetători de la Universitatea din Pittsburgh este stilul Chain-of-Thought. Această tehnică folosește o abordare pas cu pas care parcurge modelul prin structura de ieșire dorită. Această abordare logică ajută modelul să creeze un răspuns mai relevant și mai structurat la o sarcină sau întrebare complexă.
Iată un exemplu despre cum să creați un prompt de stil Chain-of-Thought bazat pe șablonul dat (folosind ChatGPT de la OpenAI cu GPT-4):
Solicitare de bază: „Elaborați un plan de marketing digital pentru o aplicație financiară destinată proprietarilor de afaceri mici din orașele mari.”
N
Lanțul de gândire prompt:
„Schiați o strategie de marketing digital pentru o aplicație financiară pentru proprietarii de afaceri mici din orașele mari. Se concentreze pe:
- Selectarea platformelor digitale care sunt populare în rândul acestei categorii demografice de afaceri.
- Crearea de conținut captivant, cum ar fi webinarii sau alte instrumente relevante.
- Generarea de tactici rentabile unice din reclamele tradiționale.
- Adaptarea acestor tactici la nevoile întreprinderilor mici urbane într-un mod care crește ratele de conversie ale clienților.
Denumiți și detaliați fiecare parte a planului cu pași unici, realizabili.”
Tehnica Chain of prompt a generat un rezultat mai precis și mai ușor de acționat dintr-o privire superficială.
Tehnica Step-Back-Prompting, prezentată de șapte dintre Google Deepmind Cercetători, este conceput pentru a simula raționamentul atunci când aveți de-a face cu LLM-uri. Acest lucru este similar cu predarea unui elev a principiilor de bază ale unui concept înainte de a rezolva o problemă complexă.
Pentru a aplica această tehnică, trebuie să subliniați principiul care stă la baza unei întrebări înainte de a solicita modelului să ofere un răspuns. Acest lucru asigură că modelul primește un context robust, care îl va ajuta să ofere un răspuns corect și relevant din punct de vedere tehnic.
Să examinăm două exemple (folosind ChatGPT de la OpenAI cu GPT-4):
Exemplu 1:
Solicitare de bază: „Cum funcționează vaccinurile?”
Solicită folosind tehnica Step-Back
- „Ce mecanisme biologice permit vaccinurilor să protejeze împotriva bolilor?”
- „Poți explica răspunsul imun al organismului declanșat de vaccinare?”
În timp ce promptul de bază a oferit un răspuns satisfăcător, utilizarea tehnicii Step-Back a oferit un răspuns aprofundat și mai tehnic. Acest lucru va fi util în special pentru întrebările tehnice pe care le puteți avea.
Pe măsură ce dezvoltatorii continuă să construiască aplicații noi pentru modelele AI existente, există o nevoie din ce în ce mai mare de tehnici avansate de promptare care pot îmbunătăți abilitățile modelelor de limbaj mari de a înțelege nu doar cuvintele noastre, ci și intenția și emoția din spatele lor, pentru a genera mai precise și relevante din punct de vedere contextual. iesiri.
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://www.kdnuggets.com/3-research-driven-advanced-prompting-techniques-for-llm-efficiency-and-speed-optimization?utm_source=rss&utm_medium=rss&utm_campaign=3-research-driven-advanced-prompting-techniques-for-llm-efficiency-and-speed-optimization
