AI資料中心競爭的焦點,正從搶購圖形處理器(GPU)擴大到資料儲存架構本身。分析指出,模型訓練與推論結束後,資料並未消失反而持續累積,儲存裝置正成為AI基礎設施的新瓶頸。
威騰電子(Western Digital,WDC)於7月23日(當地時間)在官方部落格中,引用IDC《全球資料圈》(Global DataSphere)報告指出,全球每年新增資料量到2030年預計將達到718ZB。該公司說明,若AI基礎設施只依「GPU效能」來設計,長期營運階段的成本、資料檢索與復原問題恐怕會愈滾愈大。
AI系統並非一次運算就結束。訓練資料、模型檢查點(checkpoint)、嵌入向量(embedding vector)、推論紀錄、提示詞(prompt)、輸出結果與評估資料都會持續留存,這些資料日後仍可用於模型優化、品質評估、法規遵循檢查與故障分析。
威騰電子表示,正因如此,AI基礎設施不該只被視為單純的運算環境,而應被當作一套「資料系統」來看待。若設計上只追求提高GPU使用率,很難充分反映資料累積後的營運成本與管理負擔。
問題的核心並非單一儲存裝置的效能競賽,而是要依「哪些資料多常被讀取」「需要多快復原」「重新產生的成本有多高」等標準,將儲存架構分層規劃。
威騰電子提出的做法是:將「使用中」的訓練資料與即時推論資料放在高效能快閃儲存裝置上,而長期保存資料、歷史紀錄以及低頻存取資料,則配置在大容量硬碟(HDD)與物件儲存(object storage)中。該公司說明,依資料用途分配不同儲存位置,才能有效降低整體成本。
Zettabyte(ZB,皆位元組)是大規模資料的計量單位,1ZB約等於1兆GB。當資料規模擴大到PB(拍位元組)、EB(艾位元組)等級時,若全部資料都存放在高效能儲存裝置上,成本與耗電負擔都會隨之加重。
威騰電子的AI儲存基礎設施資料顯示,目前雲端與AI資料中約有80%儲存在HDD上。此外,該公司2026年客戶調查也顯示,87%的受訪者在規劃AI基礎設施時,重視「容量擴充」與「總持有成本(TCO)優化」。
在大型組織受訪者中,有70%表示其整體儲存容量有一半以上由HDD構成。隨著AI資料持續增加,同時運用高效能快閃儲存與大容量HDD的「分層儲存架構」也將愈發重要。
這項變化也促使本地企業重新檢視採購GPU之後的成本結構。當AI服務從實驗階段邁入正式營運,推論紀錄與輸出資料每天都會新增。若全部存放在高效能儲存裝置,成本負擔會加重;但若選擇刪除,又可能導致模型驗證與稽核資料不足。
這股趨勢與本地產業的關聯,也能從AI資料中心投資動向中看出端倪。本媒體先前曾報導,因應AI資料中心儲存與傳輸瓶頸的相關技術正影響高效能半導體與儲存裝置的需求。儲存裝置不再只是運算設備背後的附屬設施,而是被重新評估為資料中心設計的核心要素。
不過,這份資料本身並未直接連結特定加密貨幣或代幣價格。AI基礎設施的成本結構與資料中心設計變化,或許能作為觀察相關產業的背景指標,但難以直接解讀為投資判斷或價格預測。
威騰電子認為,未來AI基礎設施的評估標準,可能不再只看GPU數量,還會擴及「每PB儲存成本」「耗電量」「復原效率」與「資料生命週期管理能力」。企業如今也必須一併考量,AI資料該保存多久、以多快的速度存取、以及在什麼樣的成本結構下進行管理。
驗證來源:威騰電子部落格〈Not All Data Deserves the Same Infrastructure〉https://blog.westerndigital.com/tiered-storage-for-ai-data-placement-strategy/,威騰電子AI Storage Infrastructure https://www.westerndigital.com/solutions/ai-storage-infrastructure/
留言 0