約束どおり、イーロン・マスクは xAI チャットボットの背後にあるモデルである Grok-1 をリリースしました。
リリース Apache 2.0 ライセンスに基づいて、基本モデルの重みとネットワーク アーキテクチャが利用できるようになりました。このモデルには 314 億のパラメーターがあり、それを実行するには十分な GPU メモリを備えたハードウェアが必要です。これは、自然言語対話などのアプリケーション向けに微調整されており、2023 年 XNUMX 月に終了した事前トレーニング段階の生の基本モデル チェックポイントを表しています。
批評家は、ベンチマークのパフォーマンスが比較的精彩を欠いていると指摘しています。 Grok は大きなモデルではありますが、一部のエンジニアが見たところによると、パフォーマンスはあまりよくありません。 「他のモデルと比較してどれだけ貧弱であるかを考えると、微調整がいかに重要であるかが強調されます。パラメーター数がはるかに少ないモデルは、多くの指標でそれを上回っています」と、ある人は言いました。 ポスター 昨夜のハッカーニュースフォーラムで。
小さいほうがわかるかもしれません ミストラル たとえば、Grok-1 と同等のパフォーマンスを発揮します。
サイズを入れるには 視点、パラメータ数が 314 億であっても、最新のカウントで 4 兆 1.76 億パラメータを持っていた OpenAI の GPT-XNUMX にはまだ追いつきます。
特に、カットオフ時点でデータに基づいてトレーニングされる既存の LLM とは異なり、Grok は X.com 経由で全員の Xeet のリアルタイム データ コーパスにアクセスできるため、今後数日間でいくつかの興味深い実験が行われるはずです。コメント投稿者は、「Twitter のツイート データ自体は非常に特異であり、設計上短いため、それだけでは LLM のトレーニングに役立たない。」と述べました。
グロク マスク氏のソーシャルメディアプラットフォーム「X」のユーザーには馴染みのあるものとなり、購読者はチャットボットに質問して回答を受け取ることができる。 xAIによると, グロクは『銀河ヒッチハイク・ガイド』をモデルにしている。 「ほぼすべてのことに答えることを目的としており、さらに難しいことには、どのような質問をすればよいかを提案することさえできます。」
ユーザーが次のようなひどいコピーをフリックした場合、 銀河ヒッチハイク・ガイドのラジオ台本『フィット・ザ・テンス』には次の定義が潜んでいる。「『銀河ヒッチハイク・ガイド』は、無限に複雑で混乱を招く宇宙の中での人生を理解したいと願うすべての人にとって、欠かせない相棒である。とはいえ、そうなることは望めないからである」すべての問題に関して有用または有益であるが、それが不正確である場合でも、少なくともそれは正しいという心強い主張をしている。 確実に 不正確です。
「大きな矛盾がある場合、常に現実が間違っているのです。」
このリリースは OpenAI の GPT-4 モデルの発売 XNUMX 周年に行われ、マスク氏と元 AI 仲間との法的争いは依然として背景にある。今月初めに、 マスク氏がOpenAIを訴えた、その名前にもかかわらず、会社についてはほとんどオープンではなかったと主張しました。 OpenAI 回答 大量の電子メールを公開し、マスクがその計画を完全に認識しており、それをテスラに組み込むことを望んでいたと主張した。
OpenOceanのゼネラルパートナーであるパトリック・バックマン氏は、Grok-1のリリースについて次のように語った。利益主導型組織への変革を求めて OpenAI を訴える場合は、同じ理想を貫く覚悟が必要です。」
この試験は 持っていない xAIからリリースされたことも注目です。 Grok-1 の重みは存在しますが、トレーニングに使用されるデータは同じライセンスの下で利用できないため、AI 専門家のゲイリー・マーカス氏はこう言いました。 気の利いた言葉：「部分的にOpenAI」
オープンソースの生成 AI ツールは物議を醸していることが証明されています。一部の開発者は、このテクノロジーを利用可能にすることで悪用の危険があると懸念しており、また他の開発者は、透明性が本来持つ利点を指摘しています。
Meta shared – 一種の – 昨年同社の Llama 2 モデルが発表され、他の企業もこれに追随しました。一方、OpenAI は間違いなくそうではありません。
Grok-1 の背後にあるウェイトを開放することで、マスク氏は OpenAI の独自の世界とは反対側の陣営に旗を立てようとしています。
その究極のパフォーマンスに関しては、マスクが触れているすべてのものと同様、どちらの方向にも進む可能性があります。 ®
- SEO を活用したコンテンツと PR 配信。 今日増幅されます。
- PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
- プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
- プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
- プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
- 情報源： https://go.theregister.com/feed/www.theregister.com/2024/03/18/grok_chatbot_code_released/
