Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

效能達1.9倍!OpenAI晶片問世,三星HBM4供應成關鍵變數

半導體托盤上的AI晶片與記憶體 / TokenPost.ai

OpenAI自主研發的AI推理晶片「哈拉佩諾」(Jalapeño)在公開性能測試中,展現出比對照系統更高的能源效率與更低的延遲。不過也有分析指出,未來若要大規模量產部署,三星電子(Samsung Electronics)的HBM4供應結構恐怕會是決定普及速度的關鍵。

OpenAI於25日發布的技術報告指出,哈拉佩諾在InferenceX公開基準測試中,針對GPT-OSS 120B、DeepSeek R1、Kimi K2.5 1T等模型進行比較,結果顯示每瓦特可處理的AI工作量比對照系統多出1.5倍至1.9倍。端到端延遲則降低1.7倍至3.6倍,額定功率為700瓦,測試期間持續功率則維持在550瓦以下。

哈拉佩諾是OpenAI與博通(Broadcom,AVGO)共同開發的推理專用晶片。與訓練新模型不同,這款晶片的設計重點在於處理已訓練完成的大型語言模型在實際服務中所需的運算工作。

此次測試結果也反映出一個趨勢:AI半導體競爭的重心正從訓練晶片逐漸擴展至推理晶片。生成式AI服務在實際回應使用者請求的階段,回應速度與能源效率會直接影響整體成本結構。

不過爭議點落在記憶體供應上。根據BlockBeats報導,分析師Jukan Citrini將哈拉佩諾未來的擴張空間,與三星電子的HBM4供應結構連結起來分析。

Citrini分析認為,若哈拉佩諾幾乎完全依賴三星電子的HBM4,那麼生產擴張可能會遇到一定上限。他指出,OpenAI若要進一步擴大部署規模,或許需要考慮降低部分HBM4傳輸速度等規格要求,藉此讓其他供應商的HBM4產品也能一併採用,但這仍屬分析師個人研判,尚待後續採購策略證實。

HBM是一種高頻寬記憶體,通常配置在AI運算晶片旁,用於快速傳輸大量資料。即使運算晶片本身性能提升,只要記憶體供應量或規格未能配合,實際導入資料中心的速度仍可能被拖慢。

值得留意的是,OpenAI公開的性能數據呈現的是晶片本身的效率。但資料中心的實際部署,除了晶片設計之外,還需要記憶體、封裝技術、伺服器架構與電力基礎設施同步到位才能實現。

對亞洲科技供應鏈而言,這起事件的意義不只是OpenAI與輝達(NVDA)之間的性能較量。三星電子的HBM4被視為哈拉佩諾能否順利擴張的核心零組件,也讓南韓記憶體供應鏈被推到AI基礎建設競爭的最前線。

本刊先前曾報導,AI資料中心投資正把半導體、電力與金融連結成一個整體結構。這次圍繞哈拉佩諾的討論,也是在同一脈絡下,從性能發表進入到實際部署能力驗證的新階段。

但需要留意的是,公開基準測試結果並不能直接等同於商用部署規模。測試條件與實際資料中心運作環境可能存在差異,對特定供應商的依賴程度,也會隨未來採購策略調整而改變。

後續擴張過程中,除了公開性能數據,HBM4採購狀況、規格調整幅度,以及是否採用多家供應商,都將是觀察重點。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1