IBM開發(fā)新的光學技術實現(xiàn)光速AI訓練
IBM 開發(fā)了一種新的光學技術，可以以光速訓練 AI 模型，同時節(jié)省大量能源。該公司表示，通過將其突破性技術應用于數(shù)據(jù)中心，訓練 AI 模型時節(jié)省的能源相當于 5000 個美國家庭的年度能源使用量。 4`E[ WE:Q
該公司解釋說，雖然數(shù)據(jù)中心通過光纖電纜與外界相連，但在內(nèi)部，他們?nèi)栽谑褂勉~線。這些電線連接 GPU 加速器，這些加速器在等待來自其他設備的數(shù)據(jù)時會花費大量時間處于空閑狀態(tài)，同時消耗能源并推高成本。 cPaz-
[attachment=131041] @}9*rWJIE
IBM 高級副總裁兼研究總監(jiān) Dario Gil 在評論這一發(fā)展時表示：“由于生成 AI 需要更多的能源和處理能力，數(shù)據(jù)中心必須不斷發(fā)展——而同封裝光學器件可以使這些數(shù)據(jù)中心面向未來。有了這一突破，未來的芯片將像光纖電纜將數(shù)據(jù)傳入和傳出數(shù)據(jù)中心一樣進行通信，開啟一個更快、更可持續(xù)的通信新時代，可以處理未來的 AI 工作負載。” 3oD?e
IBM 在一份技術論文中概述了其新的共封裝光學器件 (CPO) 原型。通過顯著增加數(shù)據(jù)中心的帶寬，可以最大限度地減少 GPU 停機時間，從而加速 AI 處理。 W5i {W'
IBM 解釋說，大型語言模型 (LLM) 的訓練時間可以從三個月縮短到三周。同時，提高能源效率將減少能源使用量并降低與訓練 LLM 相關的成本。
|