亞馬遜(AMZN)據報計畫在資料中心電力設施尚未到位前,就先接收約50億美元的輝達(NVDA)GB300伺服器機櫃並部署,其中部分設備因電力不足,目前被擱置在中繼倉庫。這項「提前接收機櫃」的做法,引發外界對AI基礎建設擴張節奏的關注。
中國媒體財聯社(财联社)依據內部電子郵件報導,亞馬遜已新設「提前接收機櫃」計畫。郵件內容顯示,亞馬遜打算先把這批設備接收並部署到美國的資料中心。財聯社並指出,郵件中還提到,亞馬遜之後每月將持續擴大硬體採購,規模約30億美元。
GB300是輝達推出的AI伺服器機櫃產品。GPU擅長平行運算,廣泛用於AI模型的訓練與推論基礎建設。一個機櫃裡塞進大量GPU,耗電量也相當可觀。
財聯社指出,這項計畫與業界慣例不同。過去業者通常先備妥資料中心的電力配置與設備運轉條件,才會陸續採購硬體。報導稱,亞馬遜雲端運算服務(AWS)多處據點的電力容量不足,先行購入的輝達GPU設備,有相當一部分只能停放在中繼倉庫。報導把這種情況稱為「暗GPU」(Dark GPUs),意思是AI晶片與伺服器雖已買進,卻因電力問題或系統設計缺陷而無法使用、形同閒置的資源。
以上內容出自財聯社依內部電子郵件所做的報導,截至目前,亞馬遜尚未公開做出正式說明,細節仍待後續確認。
留言 0