AI資料中心競爭轉向效率 不再只拚GPU數量

韓國副總理兼科學技術情報通信部長官裴敬勳（Bae Kyung-hoon）表示，人工智慧（AI）資料中心的建置重點，應該從採購特定外國GPU，擴大到整合多種異質運算資源。

根據韓聯社Infomax（연합인포맥스）報導，裴敬勳20日在首爾鍾路區HJ商務中心光化門舉行的「打造開放式AI運算基礎設施生態系業界座談會」上表示：「在AI工作負載日益多元化的情況下，CPU、GPU、NPU、DPU等運算資源與記憶體必須有機結合，才能將運作效率最大化。」

他表示：「打造AI資料中心（DC），並不是單純準備伺服器機架、只搭載輝達（NVDA）等特定外國圖形處理器（GPU）就算完成。」他認為，AI基礎設施的競爭不該只看設備數量，而是要從實際服務與成本結構出發，建立相對應的運作體系。

AI資料中心（AIDC）指具備AI模型訓練與推論所需大規模運算設備，以及電力、散熱設施的資料中心。隨著生成式AI與代理式AI（Agentic AI）普及，推論需求增加，比起單一以GPU為主的架構，依服務特性混搭中央處理器（CPU）、GPU、神經網路處理器（NPU）等的異質運算架構正逐漸受到重視。

裴敬勳表示：「不只是要開發基礎模型，更關鍵的是要具備實際串接、運用異質晶片組與基礎設施的能力。」他並表示：「隨著建構在模型之上的代理式AI技術日益成熟、推論市場逐步開啟，政府將全面透過政策支持架構最佳化，協助業界有效因應暴增的代幣（token）運算需求。」

代理式AI是指能依使用者指示，自行規劃並執行多個步驟的AI技術。相較於一般對話型模型，代理式AI的推論呼叫與工具使用通常更頻繁，因此資料中心除了運算效能，也需要一併設計記憶體頻寬、網路與電力效率。

韓國政府與超微（AMD）的合作也呼應這股趨勢。科學技術情報通信部與超微上個月已簽署合作備忘錄，共同打造AI運算基礎設施。

超微韓國常務文暻善（Moon Kyung-sun）在座談會上，提出結合韓國國產NPU與超微CPU、GPU等多種AI運算資源的整合型異質AI架構開發構想。她表示：「我們的終極目標，是在韓國國內打造成功案例，進而擴展並運用為具備全球競爭力的標準架構。」

這場討論，正好呼應韓國AIDC市場競爭焦點從電力與土地取得，轉向運作效率的趨勢。本刊先前曾報導SK電訊透過SK Hyper擴大AIDC事業版圖的計畫。

韓國政府層級的AI基礎設施政策也持續推進。本刊先前曾報導韓國政府計劃至2030年為製造業AI投入民間與政府合計20兆韓元的策略。

裴敬勳也提到政府主導的獨立基礎模型第二輪評估結果。他表示：「在近期完成第二輪評估的『自主基礎模型（獨波模）』計畫中，新創企業表現亮眼，證明了自身潛力。」

他說明，政府在重建「AI高速公路」、打造AI資料中心，以及推動三大旗艦計畫等基本政策方向已經確立，目前正全力推動。他並表示：「現階段不能只停留在跑分等單純數字競賽，而是要創造實質成果，讓AI真正在產業與國民生活中普及使用。」

裴敬勳表示，透過今年底啟動的「全民AI（모두의 AI）」平台，先前參與自主基礎模型計畫的企業將大舉加入，也將成為AI服務普及的契機。韓國政府釋出的訊息顯示，AIDC競爭的標準，正從GPU數量轉向異質基礎設施的運作效率與生態系設計。