和風網標誌

新型光子電腦晶片利用光來削減人工智慧能源成本

日期:

人工智慧模型是 權力大戶.

隨著演算法的發展和變得更加複雜,它們對當前電腦晶片的負擔越來越大。多家公司設計了針對人工智慧的晶片,以減少功耗。但它們都基於一個基本規則——它們使用電力。

本月,中國清華大學的一個團隊改變了配方。他們 建構了一個神經網路晶片 使用光而不是電來運行人工智慧任務,其能源成本只是 英偉達 H100,一種用於訓練和運行人工智慧模型的最先進的晶片。

該晶片名為 Taichi,其內部結構結合了兩種基於光的處理方式。與之前相比 光學芯片,Taichi 對於相對簡單的任務(例如識別手寫數字或其他圖像)要準確得多。與前代產品不同的是,該晶片還可以產生內容。例如,它可以根據荷蘭藝術家文森特·梵高的風格製作基本圖像,或根據約翰·塞巴斯蒂安·巴赫的靈感製作古典音樂數字。

Taichi 的效率部分歸功於其結構。該晶片由多個稱為小晶片的組件組成。與大腦的組織類似,每個小晶片並行執行自己的計算,然後將計算結果與其他小晶片整合以得出解決方案。

面對分離 1,000 多個類別的圖像的挑戰性問題,Taichi 在近 92% 的時間裡取得了成功,與當前晶片性能相當,但能耗卻降低了千倍以上。

作者寫道,對於人工智慧來說,「處理更高階任務的趨勢是不可逆轉的」。 “Taichi 為大規模光子(基於光的)計算鋪平了道路”,從而以更低的能源成本實現更靈活的人工智慧。

肩膀上的碎片

今天的電腦晶片與人工智慧不能很好地配合。

部分問題是結構性的。傳統晶片上的處理和內存在物理上是分開的。在它們之間傳輸資料需要花費大量的精力和時間。

雖然可以有效地解決相對簡單的問題,但當涉及複雜的人工智慧時,例如為 ChatGPT 提供支援的大型語言模型,該設定非常耗電。

主要問題是電腦晶片是如何建構的。每個計算都依賴晶體管,電晶體透過開啟或關閉來表示計算中使用的 0 和 1。幾十年來,工程師們已經大幅縮小了晶體管的尺寸,這樣他們就可以在晶片上塞進更多的電晶體。但目前的晶片技術正在走向一個突破點,我們不能再做得更小了。

長期以來,科學家一直在尋求改進現有晶片。受大腦啟發的一種策略依賴「突觸」——連接神經元的生物「碼頭」——在同一位置計算和儲存資訊。這些受大腦啟發或神經形態的晶片可大幅減少能耗並加快計算速度。但與目前的晶片一樣,它們也依賴電力。

另一個想法是使用完全不同的計算機制:光。作者寫道,「光子計算」正在「吸引越來越多的關注」。除了使用電力之外,我們還可以劫持光粒子,以光速為人工智慧提供動力。

要有光

與基於電力的晶片相比,光消耗的功率要少得多,並且可以同時處理多種計算。利用這些特性,科學家建構了光學神經網絡,使用光子(光粒子)取代電力來建構人工智慧晶片。

這些晶片有兩種工作方式。其中,晶片將光訊號散射到工程通道中,最終將光線組合起來解決問題。這些光學神經網路被稱為衍射,將人工神經元緊密地排列在一起,並最大限度地降低能源成本。但它們不能輕易改變,這意味著它們只能解決一個簡單的問題。

不同的設定取決於光的另一種特性,即乾涉。就像海浪一樣,光波相互結合並相互抵消。當位於晶片上的微通道內部時,它們可以碰撞以相互促進或抑制——這些干涉圖案可用於計算。基於乾涉的晶片可以使用稱為乾涉儀的設備輕鬆地重新配置。問題是,它們體積龐大,消耗大量能量。

然後就是準確性的問題。即使在經常用於干涉實驗的雕刻通道中,光也會反彈和散射,導致計算不可靠。對於單一光學神經網路來說,誤差是可以容忍的。但隨著光網路規模的擴大和問題的複雜化,噪音呈指數級增長,變得難以為繼。

這就是為什麼基於光的神經網路不能輕易擴展的原因。到目前為止,他們只能解決基本任務,例如識別數字或元音。

「擴大現有架構的規模不會成比例地提高效能,」團隊寫道。

雙重麻煩

新的人工智慧 Taichi 結合了這兩個特徵,推動光學神經網路走向現實世界的應用。

該團隊沒有配置單一神經網絡,而是使用小晶片方法,將任務的不同部分委託給多個功能塊。每個模組都有自己的優勢:其中一個用於分析衍射,可以在短時間內壓縮大量數據。另一個區塊嵌入了乾涉儀以提供幹擾,使晶片能夠在任務之間輕鬆地重新配置。

與深度學習相比,Taichi 採用了「淺層」方法,將任務分佈在多個小晶片上。

使用標準的深度學習結構,錯誤往往會隨著層數和時間的推移而累積。這種設定將順序處理帶來的問題消滅在萌芽狀態。當遇到問題時,Taichi 將工作負載分配到多個獨立叢集上,從而更輕鬆地以最小的錯誤解決更大的問題。

該策略得到了回報。

Taichi 的運算能力相當於 4,256 個人工神經元,有近 14 萬個參數模仿編碼學習和記憶的大腦連結。團隊寫道,當將影像分為 1,000 個類別時,光子晶片的準確率接近 92%,與「目前流行的電子神經網路」相當。

該晶片在其他標準人工智慧圖像辨識測試中也表現出色,例如識別不同字母的手寫字元。

作為最終測試,團隊挑戰光子人工智慧以不同藝術家和音樂家的風格掌握和重新創建內容。當接受巴赫曲目的訓練時,人工智慧最終學會了音樂家的音調和整體風格。同樣,梵谷或愛德華蒙克(著名畫作背後的藝術家)的圖像, 那聲尖叫——輸入人工智慧後,它可以產生類似風格的圖像,儘管許多圖像看起來像是幼兒的遊戲。

光學神經網路還有很長的路要走。但如果廣泛使用,它們可能會成為當前人工智慧系統的更節能的替代方案。 Taichi 的能源效率比之前的迭代高出 100 倍以上。但該晶片仍需要雷射作為電源和資料傳輸單元,而這些都很難壓縮。

接下來,該團隊希望將現成的微型雷射和其他組件整合到單一黏性光子晶片中。同時,他們希望太極能夠“加速開發更強大的光學解決方案”,最終可能引領強大且節能的人工智慧“新時代”。

圖片來源: 西班牙視覺特效 / Shutterstock.com

現貨圖片

最新情報

現貨圖片