ゼファーネットのロゴ

LLM の効率と速度を最適化するための 3 つのリサーチ主導の高度なプロンプト技術 – KDnuggets

日付:

LLM の効率と速度を最適化するための 3 つの研究に基づいた高度なプロンプト技術
による画像 Freepik

OpenAI の GPT や Mistral の Mixtral などの大規模言語モデル (LLM) は、AI を活用したアプリケーションの開発においてますます重要な役割を果たしています。これらのモデルは人間のような結果を生成できるため、コンテンツ作成、コードのデバッグ、その他の時間のかかるタスクの完璧なアシスタントになります。

ただし、LLM を扱うときに直面する共通の課題の 1 つは、一般に幻覚として知られる、事実に誤りのある情報に遭遇する可能性であることです。このようなことが起こる理由は、突飛なものではありません。 LLM は、プロンプトに対して満足のいく回答を提供できるように訓練されています。提供できない場合は、それを思いつきます。幻覚は、これらのモデルのトレーニングに使用される入力の種類やバイアスによっても影響を受ける可能性があります。

この記事では、LLM によって生成される結果の効率と速度を向上させながら、幻覚の発生を軽減するための有望なアプローチとして登場した、研究に裏付けられた 3 つの高度なプロンプト技術を検討します。

これらの高度なテクニックがもたらす改善をよりよく理解するには、プロンプト ライティングの基本について説明することが重要です。 AI (この記事では LLM) のコンテキストにおけるプロンプトとは、人間のユーザーの意図に関して AI モデルを導く文字、単語、トークン、または一連の命令のグループを指します。

プロンプト エンジニアリングとは、問題の LLM の動作とその結果の出力をより適切に指示することを目的としたプロンプトを作成する技術を指します。さまざまなテクニックを使用して人間の意図をより適切に伝えることにより、開発者は精度、関連性、一貫性の点でモデルの結果を強化できます。

プロンプトを作成する際に従うべき重要なヒントをいくつか紹介します。

  • 簡潔にする
  • 希望の出力形式を指定して構造を提供します
  • 可能であれば参考文献や例を示してください。 

これらすべては、モデルが必要なものをよりよく理解し、満足のいく答えを得る可能性を高めるのに役立ちます。

以下は、上記のすべてのヒントを使用してプロンプトを使用して AI モデルをクエリする良い例です。

プロンプト = 「あなたは AI プロンプト エンジニアの専門家です。幻覚の課題と、これらの課題に対処するための高度なプロンプト技術の使用の可能性に焦点を当てて、プロンプト生成の最新の進歩について 2 文の要約を作成してください。出力はマークダウン形式である必要があります。」

 

ただし、特に複雑なタスクを扱う場合、前述した重要なヒントに従っても、常に最適な結果が保証されるわけではありません。

Microsoft や Google などの著名な AI 機関の一流の研究者は、LLM の最適化、つまり幻覚の一般的な原因を積極的に研究し、それらに対処する効果的な方法を見つけることに多くのリソースを投入しています。以下のプロンプト手法は、研究対象の LLM に、より適切でコンテキストを意識した指示を提供することがわかっており、それにより、より適切な結果が得られる可能性が高まり、不正確または無意味な情報が得られる可能性も減ります。

以下に、研究に基づいた高度なプロンプト手法の例をいくつか示します。

1. 感情的な説得のプロンプト

A Microsoft 研究者による 2023 年の調査 「EmotionPrompts」と呼ばれる感情的な言葉と説得力のあるプロンプトを使用すると、LLM のパフォーマンスが 10% 以上向上することがわかりました。 

このスタイルでは、指定されたプロンプトに個人的で感情的な要素が追加され、リクエストが結果に重大な影響を与える非常に重要なものに変換されます。それはまるで人間と話しているようなものです。感情的な角度を使用すると、タスクの重要性を伝えることができ、より深い集中力とコミットメントを刺激します。この戦略は、より高度な問題解決スキルと創造性スキルが必要なタスクに役立ちます。

感情を使ってプロンプトを強化する簡単な例を見てみましょう。

基本的なプロンプト: 「数字のリストを並べ替える Python スクリプトを作成します。」

 

LLM の効率と速度を最適化するための 3 つの研究に基づいた高度なプロンプト技術
 

感情を込めて促す 説得: 「Python のスキルを向上させることに興奮しています。数値を並べ替えるためのスクリプトを作成する必要があります。これは開発者としての私のキャリアにおいて重要なステップです。」

 

LLM の効率と速度を最適化するための 3 つの研究に基づいた高度なプロンプト技術
 

どちらのプロンプトのバリエーションでも同様のコード結果が生成されましたが、「EmotionPrompts」技術はよりクリーンなコードの作成に役立ち、生成された結果の一部として追加の説明を提供しました。

 

LLM の効率と速度を最適化するための 3 つの研究に基づいた高度なプロンプト技術
 

もう一つの興味深い実験は、 フィンクスター 彼らは、LLM に金銭的なチップを提供すると、人間の金銭的インセンティブに訴えるのと同じように、パフォーマンスを向上させることもできることを発見しました。

2. 思考連鎖のプロンプト

ある人によってその有効性が発見された別の催促テクニック ピッツバーグ大学の研究者グループ 思考連鎖スタイルです。この手法では、モデルを目的の出力構造までたどる段階的なアプローチが採用されています。この論理的なアプローチは、モデルが複雑なタスクや質問に対して、より適切で構造化された応答を作成するのに役立ちます。

以下は、指定されたテンプレートに基づいて思考連鎖スタイルのプロンプトを作成する方法の例です (OpenAI の ChatGPT と GPT-4 を使用)。

基本的なプロンプト: 「大都市の中小企業経営者を対象とした金融アプリのデジタル マーケティング プランを起草する。」

 

NLLM の効率と速度を最適化するための 3 つの研究に基づいた高度なプロンプト技術
 

思考の連鎖プロンプト:

「大都市の中小企業経営者向けの金融アプリのデジタル マーケティング戦略の概要を説明します。焦点を当てる:

  1. このビジネス層の間で人気のあるデジタル プラットフォームを選択します。
  2. ウェビナーやその他の関連ツールなどの魅力的なコンテンツの作成。
  3. 従来の広告とは異なる、費用対効果の高い戦略を生成します。
  4. これらの戦術を都市部の中小企業のニーズに合わせて調整し、顧客のコンバージョン率を高めます。

計画の各部分に名前を付けて詳しく説明し、独自の実行可能な手順を記載します。」

Chain of Prompt テクニックは、ざっと見ただけでより正確で実用的な結果を生成しました。

 

LLM の効率と速度を最適化するための 3 つの研究に基づいた高度なプロンプト技術

Google の 7 人が紹介するステップバックプロンプト手法 ディープマインド研究者、LLM を扱うときに推論をシミュレートするように設計されています。これは、複雑な問題を解決する前に、概念の基礎となる原則を生徒に教えるのと似ています。

この手法を適用するには、モデルに回答を要求する前に、質問の背後にある根本原理を指摘する必要があります。これにより、モデルは確実に堅牢なコンテキストを取得し、技術的に正しく関連性のある答えを与えるのに役立ちます。 

4 つの例を見てみましょう (OpenAI の ChatGPT と GPT-XNUMX を使用)。

例1:

基本的なプロンプト:「ワクチンはどのように作用するのですか?」

 

LLM の効率と速度を最適化するための 3 つの研究に基づいた高度なプロンプト技術
 

ステップバック手法を使用したプロンプト

  1. 「ワクチンが病気を防ぐことを可能にする生物学的メカニズムは何ですか?」

     

    LLM の効率と速度を最適化するための 3 つの研究に基づいた高度なプロンプト技術
     

  2. 「ワクチン接種によって引き起こされる体の免疫反応について説明できますか?」

     

    LLM の効率と速度を最適化するための 3 つの研究に基づいた高度なプロンプト技術
     

基本的なプロンプトでは満足のいく答えが得られましたが、ステップバック テクニックを使用すると、より詳細でより技術的な答えが得られました。これは、技術的な質問がある場合に特に役立ちます。 

 

LLM の効率と速度を最適化するための 3 つの研究に基づいた高度なプロンプト技術

開発者が既存の AI モデル用の新しいアプリケーションを構築し続けるにつれて、大規模言語モデルの能力を強化して、言葉だけでなくその背後にある意図や感情を理解して、より正確で文脈に関連した表現を生成できる高度なプロンプト技術の必要性が高まっています。出力。
 
 

スポット画像

最新のインテリジェンス

スポット画像