SK電信(SK Telecom,017670)、輝達(NVIDIA,NVDA)與Rebellions將合作開發連接GPU與NPU的AI運算系統,並計畫在SK電信的AI資料中心進行驗證。這套系統將由不同晶片分別處理問題分析與答案生成;目前仍處於開發與驗證階段,尚未完成資料中心部署或商用服務導入。
SK電信9日表示,三家公司在首爾COEX舉行的「NVIDIA AI Day Seoul」簽署了GPU與NPU整合系統開發合作備忘錄(MOU)。
三家公司計畫以輝達的「NVLink Fusion」作為連接技術,將Rebellions開發中的「Rebel R200」NPU接入輝達平台,並採用輝達伺服器機櫃設計規格「MGX」,以機櫃為單位整合GPU與NPU。NVLink Fusion是將GPU間資料傳輸技術NVLink延伸至其他業者AI晶片的技術。
在推論流程中,輝達GPU將負責分析問題的「預填充(prefill)」階段,Rebellions NPU則負責依序生成答案的「解碼(decode)」階段。SK電信表示,預填充需要大量運算,解碼則重視從記憶體快速讀取資料的能力。三家公司希望透過分工提升處理速度與能源效率。
分工方面,Rebellions負責開發NPU,輝達提供晶片連接技術與機櫃設計規格,SK電信則計畫在自家AI資料中心驗證系統的效能與穩定性。完成驗證後,三家公司將評估實際服務應用與商用化的可能性。
SK電信最高技術長(CTO)兼AI CIC負責人정석근表示:「這項合作有助於驗證韓國自主AI基礎設施的可能性。」SK電信表示,合作重點是透過系統開發與資料中心實證,檢視自主AI基礎設施的可行性;公司也計畫將自家AI模型「A.X K2」及「모두의 AI」相關服務連接至整合系統。
輝達在9日發布的官方資料中預估,Rebellions R200系統將於2028年達到可部署狀態。
Comment 0