私たちは 1 年ちょっと前に Amazon Bedrock を世界に紹介し、生成型人工知能 (AI) アプリケーションを構築するまったく新しい方法を提供しました。ファーストパーティおよびサードパーティの基盤モデル (FM) の幅広い選択肢とユーザーフレンドリーな機能を備えた Amazon Bedrock は、安全な生成 AI アプリケーションを構築および拡張するための最も速くて簡単な方法です。現在、何万もの顧客が Amazon Bedrock を使用して、優れたアプリケーションを構築および拡張しています。彼らは、AI 戦略を前進させるために、迅速、簡単、安全にイノベーションを進めています。そして私たちは、適切なモデルの選択、特定のユースケースに合わせたモデルのカスタマイズ、生成 AI アプリケーションの保護と拡張を容易にする、さらに多くのモデルの選択肢と機能を含むエキサイティングな新機能で Amazon Bedrock を強化することで、その取り組みをサポートしています。

金融から旅行、接客業、ヘルスケア、消費者向けテクノロジーに至るまで、さまざまな業界の顧客が目覚ましい進歩を遂げています。彼らは、生成 AI アプリケーションを本番環境に迅速に移行して顧客エクスペリエンスを向上させ、業務効率を向上させることで、真のビジネス価値を実現しています。毎日数十億件の取引を処理する世界最大の資本市場であるニューヨーク証券取引所 (NYSE) を考えてみましょう。 NYSE は、Amazon Bedrock が選択した FM と最先端の AI 生成機能をいくつかのユースケースにわたって活用しています。これには、わかりやすい言葉で回答を提供するための何千ページもの規制の処理も含まれます。

世界的な航空会社、ユナイテッド航空は、旅客サービス システムを最新化し、従来の旅客予約コードを平易な英語に翻訳し、代理店が迅速かつ効率的な顧客サポートを提供できるようにしました。情報と分析の世界的大手プロバイダーである LexisNexis Legal & Professional は、Lexis+ AI 上でパーソナライズされた法的生成 AI アシスタントを開発しました。 LexisNexis の顧客は、最も近い競合製品よりも 40 倍の速さで信頼できる結果を受け取り、法的な調査と要約にかかる時間を週に最大 30 時間節約できます。また、オンラインヘルプデスクソフトウェアの HappyFox は、セキュリティとパフォーマンスの観点から Amazon Bedrock を選択し、カスタマーサポートソリューションにおける AI を活用した自動チケットシステムの効率を XNUMX%、エージェントの生産性を XNUMX% 向上させました。

また、Amazon 全体で、お客様により没入型で魅力的なエクスペリエンスを提供するために、生成 AI による革新を続けています。つい先週、Amazon Music が Maestro を発表しました。 Maestro は、Amazon Bedrock を利用した AI プレイリスト ジェネレーターで、Amazon Music の定期購入者に、プロンプトに基づいてプレイリストを作成する簡単で楽しい方法を提供します。 Maestro は現在、Amazon Music のすべてのレベルの少数の米国の顧客にベータ版で展開されています。

Amazon Bedrock では、お客様が適切なコストと速度で本番環境に対応したエンタープライズグレードの生成 AI アプリケーションを構築するために必要な主要領域に焦点を当てています。本日は、モデルの選択、生成 AI アプリケーションを構築するためのツール、プライバシーとセキュリティの分野にわたって発表する新機能を共有できることを嬉しく思います。

1. Amazon Bedrock は、Llama 3 モデルでモデルの選択肢を拡張し、ニーズに最適なモデルを見つけるのに役立ちます

初期の段階では、顧客はさまざまな目的にどのモデルを使用するかを決定するために、さまざまなモデルを学習および実験し続けています。彼らは、最新のモデルを簡単に試して、ユースケースに最適な結果とコスト特性をもたらす機能と機能をテストできることを望んでいます。 Amazon Bedrock の顧客の大多数は複数のモデルを使用しており、Amazon Bedrock はファーストパーティおよびサードパーティの大規模言語モデル (LLM) およびその他の FM の幅広い選択肢を提供します。これには、以下のモデルが含まれます。 AI21ラボ, 人間原理, 密着, Meta, ミストラルAI, スタビリティAI、私たち自身のものと同様に、 アマゾンタイタンモデル。実際、トムソン・ロイター社の AI およびトムソン・ロイター研究所の責任者、ジョエル・フロン氏は次のように述べています。 最近言った Amazon Bedrock の採用については、「特にこの分野の進化の速さを考えると、発売されるさまざまなモデルを使用できることが私たちにとって重要な推進力でした。」と述べています。 Mistral AI モデルファミリーの最先端モデルを含む ミストラル 7B, ミストラル 8x7B, ミストラル・ラージ 顧客は、テキスト生成、要約、Q&A、コード生成における高いパフォーマンスに興奮しています。 Anthropic Claude 3 モデル ファミリを導入して以来、何千人ものお客様が、Claude 3 Haiku、Sonnet、Opus が比類のないインテリジェンス、スピード、コスト効率で認知タスク全体の新しいベンチマークを確立したことを体験してきました。 Amazon Bedrock で Claude 3 Haiku と Opus を使用した初期評価の後、ブランド インテリジェンス プラットフォームである BlueOcean.ai は、50 つの個別の API 呼び出しを XNUMX つのより効率的な呼び出しに統合することができ、XNUMX% 以上のコスト削減を確認しました。

ソニーグループ株式会社 DXプラットフォームグループフェデレーテッドガバナンス部長 大場正博氏は次のように述べています。

「生成 AI をビジネスに適用するには多くの課題がありますが、Amazon Bedrock の多様な機能は生成 AI アプリケーションをソニーのビジネスに合わせて調整するのに役立ちます。 Claude 3 の強力な LLM 機能だけでなく、エンタープライズ レベルでアプリケーションを保護するのに役立つ機能も活用できます。 Bedrock チームと協力して、ソニー グループ内で生成 AI の民主化をさらに推進できることを本当に誇りに思います。」

私は最近、一流の資産管理会社であるブリッジウォーター・アソシエイツの Artificial Investment Associate Labs の CTO である Aaron Linsky 氏に話を聞きました。同社は生成 AI を使用して「Artificial Investment Associate」を強化し、顧客にとって大きな進歩を遂げています。これは、投資意思決定のためにルールに基づいた専門家アドバイスを提供した経験に基づいています。 Amazon Bedrock を使用すると、Claude 3 などの利用可能な最良の FM をさまざまなタスクに使用でき、基本的な市場の理解と AI の柔軟な推論機能を組み合わせることができます。 Amazon Bedrock を使用すると、シームレスなモデル実験が可能になり、ブリッジウォーターは体系的なアドバイスと最先端の機能を組み合わせた強力な自己改善投資システムを構築し、進化する AI ファーストのプロセスを作成できるようになります。

お客様にさらに多くのモデルをお選びいただけるよう、本日、 Meta Llama 3 モデルが Amazon Bedrock で入手可能。 Llama 3 の Llama 3 8B モデルと Llama 3 70B モデルは、生成 AI アプリケーションを構築、実験し、責任を持ってスケーリングできるように設計されています。これらのモデルは、事前トレーニングのスケールアップや命令の微調整アプローチなど、以前のモデル アーキテクチャから大幅に改善されました。 Llama 3 8B は、テキストの要約、分類、感情分析、翻訳に優れており、限られたリソースやエッジ デバイスに最適です。 Llama 3 70B は、コンテンツ作成、会話型 AI、言語理解、研究開発、エンタープライズ、正確な要約、微妙な分類/感情分析、言語モデリング、対話システム、コード生成、および指示に従って機能します。詳しくはこちら Meta Llama 3 が Amazon Bedrock で入手可能になりました。

また、Cohere の Command R および Command R+ エンタープライズ FM のサポートが近日中に開始されることも発表します。。これらのモデルは拡張性が高く、幻覚を軽減するための引用を伴う検索拡張生成 (RAG)、複雑なビジネス タスクを自動化するためのマルチステップ ツールの使用、グローバル オペレーションのための 10 言語のサポートなど、長いコンテキストのタスク向けに最適化されています。 Command R+ は、ロングコンテキストのタスク向けに最適化された Cohere の最も強力なモデルであり、Command R は大規模な本番ワークロード向けに最適化されています。 Amazon Bedrock でまもなく登場する Cohere モデルを使用すると、企業は、概念実証を超えて日常の AI 運用に向けて強力な精度と効率性のバランスをとったエンタープライズグレードの生成 AI アプリケーションを構築できます。

Amazon Titan Image Generator が一般提供開始、Amazon Titan Text Embeddings V2 が近日提供予定

最も機能的な 3P モデルの追加に加えて、Amazon Titan Image Generator が本日より一般提供されます。 Amazon Titan Image Generator を使用すると、広告、電子商取引、メディア、エンターテインメントなどの業界の顧客は、自然言語プロンプトを利用して、リアルなスタジオ品質の画像を効率的に大量かつ低コストで生成できます。テキスト プロンプトを使用して生成されたイメージまたは既存のイメージを編集したり、イメージの寸法を構成したり、モデルをガイドするイメージのバリエーションの数を指定したりできます。デフォルトでは、Amazon Titan Image Generator によって生成されたすべての画像には目に見えない透かしが含まれており、これは、誤った情報の拡散を減らすことで責任ある倫理的な AI を促進するという AWS の取り組みと一致しています。透かし検出機能は、Image Generator によって作成された画像を識別し、改ざん防止機能を備えた設計になっており、AI によって生成されたコンテンツの透明性を高めることができます。ウォーターマーク検出は、知的財産のリスクを軽減するのに役立ち、コンテンツ作成者、報道機関、リスク アナリスト、不正行為検出チームなどが、誤解を招く AI 生成コンテンツの拡散をより適切に特定して軽減できるようにします。詳しくはこちら Titan Image Generator の透かし検出.

間もなく登場する Amazon Titan Text Embeddings V2 は、検索などの重要なエンタープライズユースケースに対して、より関連性の高い応答を効率的に提供します。 RAG を活用して追加情報で応答を強化する場合、効率的な埋め込みモデルはパフォーマンスにとって非常に重要です。 Embeddings V2 は RAG ワークフロー用に最適化されており、RAG ワークフローとのシームレスな統合を提供します。 Amazon Bedrock のナレッジベース より有益で関連性の高い応答を効率的に提供します。 Embeddings V2 を使用すると、検索、分類、意味的類似性検索、検索の関連性の強化などの複雑なタスクのデータ関係をより深く理解できるようになります。 256、512、1024 次元の柔軟な埋め込みサイズを提供する Embeddings V2 は、RAG ユースケースの精度の 97% を維持しながらコスト削減を優先し、他の主要モデルを上回るパフォーマンスを発揮します。さらに、柔軟な埋め込みサイズにより、低遅延のモバイル展開から高精度の非同期ワークフローまで、さまざまなアプリケーションのニーズに対応します。

新しいモデルの評価により、LLM と FM へのアクセス、比較、選択のプロセスが簡素化されます。

適切なモデルを選択することは、生成 AI アプリケーションを構築するための重要な最初のステップです。 LLM のパフォーマンスは、タスク、ドメイン、データ モダリティ、その他の要因に基づいて大幅に異なる可能性があります。たとえば、生物医学モデルは特定の医療コンテキストにおいて一般的な医療モデルよりも優れたパフォーマンスを発揮する可能性がありますが、コーディング モデルは自然言語処理タスクで課題に直面する可能性があります。過度に強力なモデルを使用すると、リソースの使用効率が低下する可能性があり、一方、パワーが不十分なモデルでは、最低限のパフォーマンス基準を満たさない可能性があり、誤った結果が得られる可能性があります。また、プロジェクトの開始時に不適切な FM を選択すると、利害関係者の信頼と信頼が損なわれる可能性があります。

非常に多くのモデルから選択できるため、お客様がユースケースに適したモデルを簡単に選択できるようにしたいと考えています。

Amazon Bedrock のモデル評価ツール、一般提供開始は、特定のデータセットおよび評価指標に対するベンチマークと比較を可能にすることで選択プロセスを簡素化し、開発者がプロ​​ジェクトの目標に最も合致するモデルを確実に選択できるようにします。このガイド付きエクスペリエンスにより、開発者は各ユースケースに合わせた基準に基づいてモデルを評価できます。モデル評価を通じて、開発者は評価する候補モデル (パブリック オプション、インポートされたカスタム モデル、または微調整されたバージョン) を選択します。これらは、関連するテスト タスク、データセット、および精度、遅延、コスト予測、定性的要因などの評価指標を定義します。詳しくはこちら Amazon Bedrock でのモデルの評価.

Amazon Bedrock で最もパフォーマンスの高い FM から選択できることは、Elastic Security にとって非常に有益です。 Elastic の製品管理ディレクター、James Spiteri 氏は次のように述べています。

「数回クリックするだけで、複数のモデルにわたる単一のプロンプトを同時に評価できます。このモデル評価機能を使用すると、さまざまなモデル間で出力、メトリクス、関連コストを比較できるため、達成しようとしている目的にどのモデルが最適であるかについて情報に基づいた決定を下すことができます。これによりプロセスが大幅に合理化され、アプリケーションを実稼働環境にデプロイする際にかなりの時間を節約できました。」

2. Amazon Bedrock は、ビジネスニーズに合わせて生成 AI を調整する機能を提供します

モデルは非常に重要ですが、組織にとって役立つアプリケーションを構築するにはモデルだけでは不十分です。そのため、Amazon Bedrock には、特定のユースケースに合わせて生成 AI ソリューションを簡単に調整できる機能が備わっています。お客様は、独自のデータを使用して微調整を通じてアプリケーションをプライベートにカスタマイズしたり、ナレッジベースを使用してフルマネージドの RAG エクスペリエンスを使用して、より適切で正確なカスタマイズされた応答を提供したりできます。 Agents for Amazon Bedrock を使用すると、開発者は特定のタスク、ワークフロー、または意思決定プロセスを定義して、意図したユースケースとの一貫した調整を確保しながら制御と自動化を強化できます。今日から、 Anthropic Claude 3 Haiku および Sonnet モデルでエージェントを使用できるようになりました。また、更新された AWS コンソール エクスペリエンスも導入し、簡素化されたスキーマと制御の復帰をサポートして、開発者が簡単に開始できるようにします。詳しくはこちら Amazon Bedrock のエージェントがより速く、より使いやすくなりました.

新しいカスタムモデルインポートを使用すると、顧客は独自のモデルで Amazon Bedrock の全機能を活用できます。

これらすべての機能は、生成 AI アプリケーションの構築に不可欠です。そのため、さまざまなサービス上の独自のデータを使用して LLM を微調整したり、カスタム モデルをトレーニングしたりすることにすでに多大なリソースを投資している顧客を含む、さらに多くの顧客がこれらの機能を利用できるようにしたいと考えました。傷。多くの顧客は、250 を超える事前トレーニング済み FM の最も広範な配列を提供する Amazon SageMaker でカスタマイズしたモデルを利用できます。これらの FM には、Mistral、Llama2、CodeLlama、Jurassic-2、Jamba、pplx-7B、70B、そして印象的な Falcon 180B などの最先端のモデルが含まれています。 Amazon SageMaker は、データの整理と微調整、スケーラブルで効率的なトレーニングインフラストラクチャの構築、および低レイテンシーでコスト効率の高い方法での大規模なモデルのデプロイに役立ちます。 AI 用のデータの準備、実験の管理、モデルのトレーニングの高速化 (例: Perplexity AI は Amazon SageMaker でモデルのトレーニングを 40% 高速化)、推論レイテンシーの短縮 (例: Workday は Amazon を使用して推論レイテンシーを 80% 削減) において、開発者にとって大きな変革をもたらしました。 SageMaker)、開発者の生産性の向上 (例: NatWest は、Amazon SageMaker を使用して AI の価値実現までの時間を 12 ～ 18 か月から XNUMX か月未満に短縮しました)。ただし、これらのカスタマイズされたモデルを安全に運用し、特定のビジネス ユース ケース向けのアプリケーションに統合することには、依然として課題があります。

そこで今日ご紹介するのは、 Amazon Bedrock カスタムモデルのインポートこれにより、組織は既存の AI 投資と Amazon Bedrock の機能を活用できるようになります。 Custom Model Import を使用すると、顧客は Amazon Bedrock のフルマネージド アプリケーション プログラミング インターフェイス (API) として、Flan-T5、Llama、Mistral などの一般的なオープン モデル アーキテクチャに基づいて構築された独自のカスタム モデルをインポートし、アクセスできるようになります。顧客は、Amazon SageMaker またはその他のツールでカスタマイズしたモデルを取得し、Amazon Bedrock に簡単に追加できます。自動検証の後、Amazon Bedrock の他のモデルと同様に、カスタム モデルにシームレスにアクセスできます。シームレスなスケーラビリティとアプリケーションを保護するための強力な機能、責任ある AI 原則の遵守、さらに RAG でモデルの知識ベースを拡張し、複数ステップのタスクを完了するエージェントを簡単に作成して実行する機能など、同じメリットがすべて得られます。モデルの指導と改良を続けるために微調整を行います。基盤となるインフラストラクチャを管理する必要はありません。

この新しい機能により、組織は同じ合理化された開発エクスペリエンスを維持しながら、Amazon Bedrock モデルと独自のカスタム モデルの組み合わせを簡単に選択できるようになります。現在、Amazon Bedrock Custom Model Import がプレビューで利用可能になり、最も人気のある 3 つのオープンモデルアーキテクチャをサポートしており、将来的にはさらに多くのアーキテクチャがサポートされる予定です。詳しくはこちら Amazon Bedrock のカスタムモデルのインポート.

ASAPP は、ML モデルの構築に 10 年の歴史を持つ生成 AI 企業です。

「当社の会話型生成 AI 音声およびチャット エージェントは、これらのモデルを活用して顧客サービス エクスペリエンスを再定義します。お客様にエンドツーエンドの自動化を提供するには、LLM エージェント、ナレッジ ベース、およびモデル選択の柔軟性が必要です。カスタムモデルのインポートを使用すると、Amazon Bedrock で既存のカスタムモデルを使用できるようになります。 Bedrock により、顧客のオンボーディングが迅速化され、イノベーションのペースが向上し、新製品機能の市場投入までの時間が短縮されます。」

– テクノロジー担当社長、Priya Vijayarajendran 氏。

3. Amazon Bedrock は、安全対策を簡単に実装するための安全で責任ある基盤を提供します

生成 AI 機能が進歩し、拡大するにつれて、信頼を構築し、倫理的懸念に対処することがさらに重要になります。 Amazon Bedrock は、業界をリードするセキュリティ対策、堅牢なデータ暗号化、厳格なアクセス制御を備えた AWS の安全で信頼できるインフラストラクチャを活用することで、これらの懸念に対処します。

現在一般提供されている Amazon Bedrock のガードレールは、お客様が有害なコンテンツを防止し、アプリケーション内の機密情報を管理するのに役立ちます。

我々はまた、提供しています Amazon Bedrock のガードレールが一般提供になりました。 Guardrails は業界をリードする安全保護を提供し、顧客がコンテンツ ポリシーを定義し、アプリケーションの動作境界を設定し、潜在的なリスクに対する安全策を実装できるようにします。 Guardrails for Amazon Bedrock は、顧客が単一のソリューションで生成 AI アプリケーションの安全性とプライバシー保護を構築およびカスタマイズできる、大手クラウドプロバイダーが提供する唯一のソリューションです。これにより、Amazon Bedrock の FM によってネイティブに提供される保護よりも 85% も多くの有害なコンテンツをブロックできるようになります。ガードレールは、有害なコンテンツのフィルタリングと堅牢な個人識別情報 (PII) 検出機能の包括的なサポートを提供します。 Guardrails は、Amazon Bedrock のすべての LLM および微調整されたモデルと連携して、望ましくない有害なコンテンツに対するモデルの対応方法の一貫性を高めます。しきい値を構成して、憎しみ、侮辱、性的、暴力、違法行為 (犯罪行為を含む)、即時攻撃 (脱獄と即時インジェクション) の XNUMX つのカテゴリにわたってコンテンツをフィルターできます。また、有害な単語、冒涜的な言葉、競合他社の名前、製品など、生成 AI アプリケーションでブロックする必要があるトピックや単語のセットを定義することもできます。たとえば、銀行アプリケーションは、投資アドバイスに関連するトピックを検出してブロックするガードレールを構成できます。コールセンターの記録を要約するコンタクト センター アプリケーションは、PII 編集を使用して通話要約内の PII を削除できます。また、会話型チャットボットは、コンテンツ フィルターを使用して有害なコンテンツをブロックできます。詳しくはこちら Amazon Bedrock のガードレール.

1 万人以上の製品戦略の実現を支援するソフトウェア会社 Aha! のような企業は、生成 AI 機能の多くを強化するために Amazon Bedrock を使用しています。

「私たちは Amazon Bedrock のデータ保護およびプライバシーポリシーを通じて情報を完全に管理しており、Amazon Bedrock の Guardrails を通じて有害なコンテンツをブロックできます。私たちは、製品マネージャーが顧客から送信されたフィードバックを分析することで洞察を発見できるように、これを基に構築しました。これは始まりにすぎない。私たちは今後も高度な AWS テクノロジーを基盤にして、あらゆる場所の製品開発チームが自信を持って次に何を構築するかを優先できるよう支援していきます。」

モデルの評価やアプリケーションの保護に役立つ主要な FM と機能の選択肢がさらに増え、AI へのこれまでの投資と Amazon Bedrock の機能を活用できるため、本日のリリースにより、お客様は生成 AI の構築と拡張がさらに簡単かつ迅速になります。アプリケーション。このブログ投稿では、新機能のサブセットのみを取り上げます。ナレッジ ベースや ナレッジベースによる複数のデータソースのサポートの一般提供.

Amazon Bedrock の機能を活用する早期導入者は、生産性の向上を推進し、ドメイン全体で画期的な発見を推進し、ロイヤルティとエンゲージメントを促進する強化された顧客エクスペリエンスを提供するという、極めて有利なスタートを切っています。これらの新しい機能を使ってお客様が次に何をするかを見るのが楽しみです。

私のメンターである Werner Vogels はいつも「さあ、構築しましょう」と言っているので、私は「…Amazon Bedrock を使って!」と付け加えます。

リソース

この発表の詳細については、次のリソースを確認してください。

著者,

スワミ・シバスブラマニアン AWS のデータおよび機械学習担当副社長です。 この役割で、Swami はすべての AWS データベース、分析、AI および機械学習サービスを監督しています。 彼のチームの使命は、組織がデータを完全なエンド ツー エンドのデータ ソリューションで活用し、保存、アクセス、分析、視覚化、予測できるよう支援することです。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://aws.amazon.com/blogs/machine-learning/new-capabilities-make-it-easier-to-use-amazon-bedrock-to-build-and-scale-generative-ai-applications-and-deliver-impact/