SK海力士(SK hynix)與美國維吉尼亞大學(University of Virginia)等研究團隊共同發表新一代共同封裝光學(Co-Packaged Optics,CPO)技術路線圖,鎖定人工智慧(AI)晶片之間的連接瓶頸提出解方。
根據中國《科創板日報》報導,研究團隊於20日在學術期刊《自然電子》(Nature Electronics)刊登聯合論文,針對高效能運算與AI領域的CPO技術發展方向提出規劃。報導指出,SK海力士在如此等級的學術期刊上公開AI互連架構技術藍圖,這是首次。
CPO是將光學元件盡量貼近運算晶片或交換器配置的技術,藉此縮短電訊號傳輸的距離。電訊號傳輸距離愈長,損耗與耗電量就愈大,因此大型AI資料中心對於讓晶片與光通訊元件更靠近的需求正在升高。
在AI伺服器與資料中心中,運算效能愈提升,晶片之間、伺服器之間、記憶體之間往來的資料量也隨之增加。若連接頻寬與電力效率跟不上腳步,實際運算設備的使用率就可能下滑。
論文將「頻寬牆」列為AI規模擴張的核心瓶頸,並說明運算能力每兩年成長三倍,但互連頻寬僅成長1.4倍,兩者差距持續擴大。
研究團隊將CPO列為縮小這項落差的候選技術。過去CPO主要被提及的應用方式,是讓網路交換器與光學元件彼此靠近配置。
此次路線圖的重點在於,CPO的應用範圍不再侷限於網路連接。研究團隊提出更長遠的構想,主張將CPO延伸至記憶體介面。
若把光學連接擴大到記憶體介面,就能打造多個AI加速器共用同一個記憶體池的架構。研究團隊認為,這麼一來可以提升記憶體的使用效率。
這項思路呼應了「AI基礎設施瓶頸不只出在運算晶片效能」的趨勢。本報先前曾報導,AI基礎設施在記憶體與儲存瓶頸上的解決策略,正朝CXL與可擴充記憶體架構延伸。
圍繞CPO的關注,也逐漸擴及光學連接元件領域。本報先前報導,CPO被視為能同時提升資料傳輸效率與電力效率的技術,正成為AI資料中心供應鏈檢視的對象。
SK海力士也曾透過自家新聞室說明,在大規模AI運算網路中,既有的電氣式互連方式已面臨頻寬與能源效率的結構性極限。此次論文可視為將這項課題與記憶體中心架構結合所提出的技術路線圖。
不過,這次公開的內容並非產品上市或量產時程的宣布,而是透過學術論文與技術路線圖,提出CPO未來的延伸方向。
CPO實際延伸到記憶體介面階段的時間點,以及未來商用產品的應用範圍,目前尚未公開。此次發表可確認的訊息是,SK海力士與共同研究團隊以論文形式,提出了縮減AI互連瓶頸的技術方向。
資料來源:PANews、SK hynix Newsroom
留言 0