AMD(AMD)公開面向代理式AI的機架設計「Helion」,純CPU配置最高支援3萬2768個核心;企業版則將CPU與GPU整合在同一機架中。
AMD於2026年10月12日在美國加州聖荷西舉行的開放運算計畫(OCP)高峰會上發布Helion。公司表示,將把設計規格提供給OCP,供社群進一步開發與採用。AMD正與合作夥伴開發機架配置,目標於2026年11月推出。
供超大規模運算業者使用的Helion配置僅搭載第六代EPYC CPU,最高支援3萬2768個核心,並可連接獨立的推論基礎設施,提供代理程式執行容量。
企業整合配置則包含EPYC CPU節點、Instinct MI350P GPU節點及通用運算資源。AMD表示,客戶可依環境選擇氣冷或液冷配置。
代理式AI不只由模型生成回答,也會呼叫工具並接續執行多個步驟的任務。AMD表示,Helion的設計可依工作特性搭配CPU核心密度與效能、功耗及GPU加速。
Helion也內建整合式Token路由器,可將代理程式的模型呼叫導向前沿模型或開源模型。AMD尚未公布路由器的效能提升幅度或成本節省數據。
AMD過去曾將既有機架系統Helios定位為大型AI訓練與推論用途;Helion則提出適用於代理程式執行和企業工作的配置。目前尚未公布實際客戶部署或營運成果。
思科、戴爾科技、鴻海、HPE、聯想、QCT、超微電腦及緯穎在AMD公告中表達合作意願。這些說法代表合作夥伴的支持立場,並不表示已確認採購數量或部署成果。
開放式設計與沿用既有基礎設施能在多大程度上降低供應商鎖定或轉換成本,仍須透過實際產品價格、效能、耗電量及客戶部署結果確認。AMD公布的合作夥伴機架配置目標於2026年11月推出。
留言 0