隨著世界爭相利用最新一波人工智慧技術，一種高科技硬體已成為令人驚訝的熱門商品：圖形處理單元或 GPU。
頂級 GPU 的售價 數万美元，領先廠商Nvidia已經看到了它的市場估值 飆升至2兆美元大關 隨著對其產品的需求激增。
GPU 也不僅僅是高階人工智慧產品。手機、筆記型電腦和遊戲機中也有功能較弱的 GPU。
現在您可能想知道：GPU 到底是什麼？是什麼讓它們如此特別？
什麼是 GPU？
GPU 最初設計的目的主要是為了快速產生和顯示複雜的 3D 場景和對象，例如電玩遊戲中涉及的場景和對象。 計算機輔助設計 軟體.現代 GPU 還可以處理以下任務： 減壓 視訊串流。
大多數電腦的「大腦」是一個稱為中央處理單元（CPU）的晶片。 CPU 可用於產生圖形場景和解壓縮視頻，但與 GPU 相比，它們在執行這些任務時通常速度慢得多且效率低。 CPU 更適合一般運算任務，例如文字處理和瀏覽網頁。
GPU 與 CPU 有何不同？
典型的現代 CPU 由 8 到 16 個“核心，”每個都可以按順序處理複雜的任務。
另一方面，GPU 擁有數千個相對較小的核心，這些核心被設計為同時（「並行」）工作，以實現快速的整體處理。這使得它們非常適合需要大量簡單操作的任務，這些操作可以同時完成，而不是一個接一個地完成。
傳統 GPU 有兩種主要類型。
首先，有獨立晶片，通常出現在大型桌上型電腦的附加卡中。第二種是將 GPU 與 CPU 組合在同一晶片封裝中，這種技術常見於筆記型電腦和 PlayStation 5 等遊戲機中。在這兩種情況下，CPU 都控制 GPU 的工作。
為什麼 GPU 對人工智慧如此有用？
事實證明，GPU 的用途不僅限於生成圖形場景。
背後的許多機器學習技術 人工智能如 深層神經網絡，嚴重依賴各種形式的矩陣乘法。
這是一種數學運算，其中將非常大的數字集合相乘並相加。這些操作非常適合併行處理，因此可以由 GPU 快速執行。
GPU 的下一步是什麼？
由於核心數量及其運行速度的增加，GPU 的數位處理能力正在穩步增強。這些改進主要是由以下公司晶片製造的改進所推動的： TSMC 在台灣
單一電晶體（任何電腦晶片的基本組件）的尺寸正在減小，從而允許在相同大小的物理空間中放置更多電晶體。
然而，這並不是故事的全部。雖然傳統 GPU 對於與人工智慧相關的運算任務很有用，但它們並不是最優的。
正如 GPU 最初旨在透過提供專門的圖形處理來加速電腦一樣，也有一些加速器旨在加速機器學習任務。這些加速器通常稱為資料中心 GPU。
AMD 和 Nvidia 等公司製造的一些最受歡迎的加速器最初是傳統 GPU。隨著時間的推移，他們的設計不斷發展，以更好地處理各種機器學習任務，例如透過支援更有效率的“大腦漂浮” 數字格式。
其他加速器，例如 Google 的 張量處理單元 和 Tentorrent 的 Tensix 核心，是為了加速深度神經網路而從頭開始設計的。
資料中心 GPU 和其他 AI 加速器通常比傳統 GPU 附加卡配備更多內存，這對於訓練大型 AI 模型至關重要。人工智慧模型越大，它的能力就越強，也越準確。
為了進一步加快訓練速度並處理更大的 AI 模型（例如 ChatGPT），可以將許多資料中心 GPU 匯集在一起形成超級電腦。這需要更複雜的軟體來正確利用可用的數位處理能力。另一種方法是 創建一個非常大的加速器， 如那個 ”晶圓級處理器》由 Cerebras 製作。
專用晶片是未來嗎？
CPU 也沒有停滯不前。 AMD 和 Intel 的最新 CPU 內建了低階指令，可以加速深度神經網路所需的數位運算。這項附加功能主要有助於「推理」任務，即使用已經在其他地方開發的人工智慧模型。
為了先訓練人工智慧模型，仍然需要大型類似 GPU 的加速器。
可以為特定的機器學習演算法創建更專業的加速器。例如，最近一家名為 Groq 的公司生產了一款“語言處理單元” (LPU) 專門為運行類似於 ChatGPT 的大型語言模型而設計。
然而，創建這些專用處理器需要大量的工程資源。歷史表明，任何給定的機器學習演算法的使用和流行度往往會達到頂峰然後減弱，因此昂貴的專用硬體可能很快就會過時。
然而，對於普通消費者來說，這不太可能成為問題。您使用的產品中的 GPU 和其他晶片可能會悄悄地變得更快。
圖片來源： Nvidia公司
