人工智慧(AI)資料中心測試前沿模型的需求,被視為繼訓練與推理之後的另一項AI運算需求。若模型驗證與改進投入大量運算資源,GPU、網路、電力與冷卻設備的需求也可能受到影響。
輝達(NVDA)執行長黃仁勳(Jensen Huang)近日接受CNBC訪問時表示,大型資料中心在測試前沿模型的過程中,可能產生額外AI運算需求。他將AI運算需求分為訓練、推理與測試三大類。
訓練是模型根據資料提升效能的過程;推理則是完成訓練的模型回應使用者要求;測試則用於檢查模型效能與穩定性,並在服務正式推出前反覆驗證與改進。
前沿模型是指用於挑戰AI效能極限的最新模型。即使模型開發完成,企業仍可能在不同條件下比較結果、修正錯誤,因此需要額外運算資源。
若資料中心大規模執行這類驗證工作,除了GPU使用量可能增加,模型之間傳輸資料所需的網路、電力供應與冷卻系統需求也可能上升。不過,測試需求最終會帶動多大規模的設備投資,目前尚未確定。
輝達8月26日公布的財報顯示,2027會計年度第二季資料中心營收達890億美元(約12兆1930億韓元),較上年同期增加117%。
正如先前分析指出,輝達資料中心營收已逐漸成為整體業績核心,AI訓練與推理基礎設施已成為公司成長的重要支柱,而測試需求則被提出為新的使用場景。
同期,輝達整體營收為962億2100萬美元(約13兆1822億韓元),較上年同期增加106%。資料中心營收增速高於整體營收增速,顯示AI基礎設施業務占比持續提高。
黃仁勳的說法顯示,AI基礎設施需求可能不只來自模型發布或服務運作。若前沿模型的評估與修正工作持續進行,資料中心的使用方式也可能從訓練與推理擴大至測試。
不過,僅憑黃仁勳的判斷,尚不能斷定測試需求會轉化為輝達新增訂單或營收。資料中心擴建除了GPU,也需要電力供應、網路建設、冷卻系統與營運成本。
輝達在財報中預估,2027會計年度第三季營收為1080億美元(約14兆7960億韓元),誤差範圍為正負2%。輝達在財報中表示,AI運算需求正轉化為營收,且需求正在加速。
這項預測是輝達提出的整體財測,並非只反映前沿模型測試需求。目前也無法確認測試需求是否會在財報中以獨立項目呈現。
輝達持續供應用於擴充AI基礎設施的GPU與資料中心平台。前沿模型開發商與雲端業者將為訓練、推理與測試配置多大規模的設備,將影響AI運算需求的具體組成。
如同先前對輝達資料中心營收增長與投資回收期的討論,未來仍須確認AI基礎設施支出能在多大程度上轉化為實際服務營收與訂單。
測試型資料中心的擴張是否會帶動實際訂單與營收增加,將在企業設備投資以及輝達後續業績與財測中得到確認。
留言 0