ゼファーネットのロゴ

2 番目のスタックの構築

日付:

私たちは大加速の中にいます。これは特異点であり、ロボットが立ち上がるという資本主義的・S・カーツワイル的な意味ではなく、フーコーが述べたような特異点の中にいます。その変化の裏側がどのようなものになるのかを見分けてください。

私たちは以前にも特異点を経験しました。

  • 農業の隆盛(余剰資源を生み出し、私たちに学術階級と商業階級をもたらした)。
  • 印刷機の発明 (これにより知識が民主化され、柔軟性が低下し、私たちに自分の感覚を超えた真実の源という考えが与えられました)。
  • 蒸気エンジン (機械に物理的なタスクを実行させる)。
  • コンピューター ソフトウェア (機械に従うべき指示を与えるためのもの)。
  • インターネットとスマートフォン (私たち全員を相互にインタラクティブに接続します)。

この特異点は、最も単純な形では、 私たちは新しい種類のソフトウェアを発明しました.

古い種類のソフトウェア

古い種類のソフトウェア、つまり現在携帯電話やコンピュータに搭載されているソフトウェアは、1970 年代の人にはほとんど認識できないほどに私たちの生活を変えてきました。人類がソフトウェアに適応するまでに 50 年かかりました。なぜなら、ソフトウェアは学者から徐々に始まり、その後、ダイヤルアップ モデムや企業電子メールが趣味で使用されるようになったからです。しかし、適応までに半世紀がかかっているにもかかわらず、私たちの文明はその影響に対処するのに苦労しています。

あなたが今日よく知っているソフトウェア、つまりメッセージを送信したり、数字を合計したり、カレンダーに何かを予約したり、さらにはビデオ通話を実行したりするソフトウェアは、決定論的です。つまり、 それはあなたが期待していることをします。結果が予期せぬものである場合、それはバグと呼ばれます。

決定論的なソフトウェアからAIまで

「思考機械」の以前の例には、サイバネティクス (自動操縦のようなフィードバック ループ) やエキスパート システム (医師用の意思決定ツリー) が含まれていました。しかし、これらは依然として予測可能であり、理解可能でした。彼らはただ多くのルールに従っていただけです。

1980 年代に、私たちは別のアプローチを試みました。私たちはソフトウェアを脳のように動作するように構築し、ソフトウェアに「ニューロン」を与えました。次に、例に基づいてそれ自体を構成させます。 1980 年、Yann LeCun という若い研究者が画像分類にこれを試みました。

彼は現在、Meta の AI 責任者です。

その後、AI は一種の冬眠状態に入りました。進歩は見られましたが、それはゆっくりとしたものであり、それは学術界の場で起こったものでした。ディープ ラーニング、TensorFlow、その他のテクノロジが登場し、主に検索エンジン、推奨事項、広告を強化するために使用されました。しかし、AI は広告サービス、地図、音声認識など舞台裏で起こっていたものです。

2017年、一部の研究者は「必要なのは注意だけだ」という独創的な論文を発表した。当時、著者らは Google に勤務していましたが、その後多くの人が OpenAI などの企業に転職しました。この論文では、言語の最も重要な部分に注意を払うことでソフトウェア自体を構成させる、より簡単な方法について説明しました。

これの初期の用途は翻訳でした。アルゴリズムに十分な英語とフランス語のテキストを入力すると、各言語の単語間の関係を理解し​​て、一方から他方へ翻訳する方法を見つけ出すことができます。しかし、基本的なアプローチにより、インターネットから収集したテキストに基づいてソフトウェアをトレーニングすることができました。

そこからの進歩はかなり早かったです。 2021 年、私たちは、教師付きファイン チューニング (SFT) と呼ばれるプロセスを使用して会話型 AI を指示に従わせる「指示モデル」を作成する方法を発見しました。 2022 年には、指示に対する応答を人間が採点するようになり (修正教師あり微調整と呼ばれます)、2022 年後半には人間のフィードバックに関する強化学習と呼ばれるものが追加され、GPT-3.5 と ChatGPT が提供されました。 AI は他の AI にフィードバックを与えることができるようになりました。

いずれにせよ、2024 年までに、人間は物事をトレーニングするためのインプットとなり、アウトプットの品質を向上させるために使用されるフィードバックを提供するようになります。

予期せぬものがバグではなく機能である場合

その結果、新しい種類のソフトウェアが誕生しました。これを機能させるには、まず大量のデータを収集し、それを使用して大規模な数学モデルをトレーニングします。次に、モデルにプロンプ​​トを入力すると、必要な応答が予測されます (多くの人はこれに気づいていません) AI がトレーニングされると、同じ入力から毎回同じ出力 (AI が「最良」と考える出力) が得られます。)。しかし、創造性が必要なので、温度と呼ばれる摂動を追加します。これは、応答にどの程度のランダム性を注入するかを AI に指示します。

モデルが何を行うかを事前に予測することはできません。そして、毎回異なる応答を得るために意図的にランダム性を導入します。この新しいソフトウェアの重要な点は、予測不可能であることです。非決定的であること。それは予想外のことをします。

以前は、アプリケーションに何かを入力すると、アプリケーションは人間が書いた一連の指示に従い、期待どおりの結果が得られました。さて、AI に何かを入力すると、AI は次のような一連の命令に従います。 it と書くと、向こう側で予想外の結果が現れる。そして、予期せぬ結果はバグではなく、機能です。

信じられないほど迅速な導入

私たちは、いくつかの理由から、この 2 番目の種類のソフトウェアを最初の種類のソフトウェアよりもはるかに早く採用しています。

  • 独自のユーザーマニュアルを作成します: 私たちは結果がどれほど優れているかに興奮していますが、単純な入力にどれだけうまく応答できるかを見落としがちです。これは、学習曲線が不要な初めてのソフトウェアです。入力したり話したりできる人なら誰でも、文字通りその使い方を教えてくれます。これは、独自のドキュメントを作成する最初のソフトウェアです。
  • 誰でも試してみることができます: 携帯電話とブロードバンドによるユビキタス接続と、ホスト型ソフトウェアの SaaS モデルのおかげで、多くの人がアクセスできるようになりました。ソフトウェアを購入してインストールする必要はもうありません。ブラウザがあれば誰でも試すことができます。
  • ハードウェアはどこにでもあります: ゲーム用の GPU、Apple の M シリーズ チップ、クラウド コンピューティングにより、膨大なコンピューティング リソースを簡単に導入できるようになります。
  • コストが下がりました。たくさん:一部のアルゴリズムの進歩により、AI のコストが数桁削減されました。 10,000 億枚の画像を分類するコストは、2021 年の 0.03 ドルから 2023 年には 450 ドルに下がり、XNUMX 日あたり XNUMX 分の XNUMX のコストになりました。
  • 私たちはオンラインで暮らしています: 人間は 19 日平均 XNUMX 時間オンラインで過ごしており、そのやりとり (電子メール、チャットルーム、テキストメッセージ、ブログ) の多くはテキストベースです。オンラインの世界では、人間とアルゴリズムの区別がほとんどつかないため、AI の出力を人々が消費するフィードや画面に接続する簡単な方法が数多くありました。新型コロナウイルス感染症によりリモートワークが加速し、それに伴いテキストとアルゴリズムが私たちの生活に浸透しました。

非決定的ソフトウェアでできること

非決定性ソフトウェアは多くのことを実行できますが、そのうちのいくつかは私たちが今になってようやく認識し始めています。

  • これは、 生々しい。新しいものを生み出すことができるのです。これは画像 (Stable Diffusion、Dall-e) や音楽 (Google MusicLM)、さらには金融、ゲノミクス、リソース検出でも見られます。しかし、最も広く注目されているのは、OpenAI、Google、Perplexity などのチャットボットです。
  • 創造性には優れていますが、 物事を作り上げる。それは、芸術や散文、音楽など、「正しい答え」のない「楽しい」仕事を与えていることを意味します。それはまた、誤った情報の氾濫と人類の認識論的危機を意味します。
  • それはまだ 多くの人力による入力が必要です 出力をフィルタリングして使用可能なものにします。実際、会話型 AI を作成する手順の多くには、人間が AI に良い応答の例を与えたり、AI が与える応答を評価したりすることが含まれます。
  • それは間違っていることが多いので、誰かを責めることができる必要があります。その出力をどうするかを決めるのは人間です。 結果に対して責任を負う.
  • It 推論できる 私たちがそれができるべきではないと考えていた方法で。その理由はわかりません。

ITの振り子と民主化

定義上、特異点の裏側を予測することは困難ですが、情報技術 (IT) がどのように変化するかについて、ある程度の知識に基づいた推測をすることはできます。 IT 業界は、過去 1 世紀にわたって 2 つの大きな変化を経験しました。

  1. メインフレームの集中化から Web クライアントの分散型へと常に振り子のように揺れ続けています。
  2. これは、コンピューティングが希少で貴重であり、IT によって保護されていた時代から、開発者、さらにはワークロード自体が必要に応じてリソースをデプロイできる時代に至るまで、リソースが徐々に民主化されていく過程です。

この図はその変化を示しています。

2 番目のスタックの構築

AI のおかげで、ユーザー制御コンピューティングという別の層が実現しています。 Unqork、Bubble、Webflow、Zapier など、ユーザーがアプリを簡単に作成できるようにするノーコード ツールやローコード ツールがすでに登場していますが、さらに興味深いのは、ユーザーの AI プロンプトがコードを起動するときです。これは、データを処理するアプリを作成して実行する OpenAI の ChatGPT コード インタープリターで確認できます。

Appleのような企業がこの競争に参入するにつれ(この日を見越して自社製チップセットに大規模なAI処理を組み込んでいる)、今後数年のうちに再び振り子が限界に向かうことになるだろう。コンピューティングの次の層は次のようになります。

2 番目のスタックの構築

2 番目のスタックの構築

非決定論的時代の IT に関して私たちができるもう 1 つの予測は、企業が 2 つのスタックを持つようになるということです。

  • 1 つは決定論的で、予測可能なタスクを実行するものです。
  • 1 つは非決定的であり、予期しない結果が生成されます。

おそらく最も興味深いのは、2 番目の (非決定的) スタックは、最初の (決定的) スタックが実行できるコードを、すぐに人間よりもうまく書けるようになることです。

2 番目のスタックの構築

今後 10 年間は、あらゆる組織で 2 番目のスタックの構築が急務となるでしょう。すべての企業は、自社のコーパス、独自情報、AI から最良の結果を引き出すために使用するリアルタイムの更新の価値に基づいて判断されます。各スタックには、異なるハードウェア要件、アーキテクチャ、ガバナンス、ユーザー インターフェイス、コスト構造があります。

AI が人類をどのように再構築するかは予測できません。しかし、それが企業の IT にどのような変化をもたらすかについて、私たちは知識に基づいた推測をすることができ、すぐに適応した人が、その後に起こるものを最大限に活用できる態勢を整えることができます。

アリスター・クロル ベストセラーの Lean Analytics など、テクノロジー、ビジネス、社会に関する数冊の本の著者です。彼は、公共部門のイノベーションに関する世界有数の会議である FWD50 の創設者兼共同議長であり、ハーバード ビジネス スクールの客員役員を務め、データ サイエンスとクリティカル シンキングのカリキュラム作成に貢献しました。彼は会議の議長です データユニバース 2024.

Data Universe で著者に会う

著者の Alistair Croll に参加してください。 データユニバース、10年11月2024日とXNUMX日にニューヨークで開催され、世界のデータとAIコミュニティ全体を対象に設計された、ブランドに依存しない新しいデータとAIカンファレンスの最初の立ち上げで議長を務めます。

すべてをまとめる – Data Universe は、あらゆるスキル レベルと役割のデータ専門家だけでなく、ビジネスマン、経営幹部、業界パートナーを歓迎し、業界全体で調査されたデータ、分析、ML、AI に関する最新かつ関連性の高い専門家主導の洞察を得ることができます。 、ビジネスと社会の未来を変える、急速に変化する規範、ツール、技術、期待とともに進化するのに役立ちます。今年 4 月にニューヨーク市のノース ジャビッツ センターでデータと AI の未来に参加しましょう。

INFORMS は Data Universe 2024 の戦略的パートナーになれることを嬉しく思い、 4つのセッション 会議中に。


注目の画像クレジット: グロウティカ/アンスプラッシュ

スポット画像

最新のインテリジェンス

スポット画像