Google於11月9日宣布,正式推出「Pathways on Google Cloud」,可透過單一程式協調TPU叢集的訓練工作。此次公布的是管理AI模型訓練的執行系統,並非新款晶片。
Google開發者部落格指出,Pathways是用於分散式執行的系統,過去曾支援Gemini等Google大型模型訓練。單一JAX用戶端可定義整體運算工作,再由系統將工作分配至加速器,並協調資料移動與執行順序。
Google Cloud的Pathways文件指出,單一用戶端可協調數千至數萬個加速器的工作。系統會依各項工作的需求分配運算資源,讓不同TPU群組執行不同計算。
在單一程式多重資料(SPMD)模式下,各加速器會同步執行相同程式。Google表示,強化學習中的取樣、獎勵評估與模型訓練若分別由不同程式執行,裝置可能出現閒置時段。Pathways會以資料流定義各項工作的依存關係,並分配所需運算資源。
官方資料記載的正式推出日期並不一致。Google開發者部落格於11月9日宣布正式推出;Google Cloud發布說明則記載,0.1.0版本於2026年3月2日正式推出。11月公告未註明不同版本或功能。
Google於4月22日公布訓練用TPU 8t與推論用TPU 8i。當時Google Cloud公告指出,一座TPU 8t超級叢集最多搭載9600顆晶片,並配備2 PB共享記憶體。
Google表示將很快向雲端客戶提供這兩款產品,但未公布具體啟用日期。11月9日的Pathways公告是另一項軟體消息,與TPU硬體發布分開。
Google也正推動TorchTPU,支援在TPU上執行PyTorch模型。Google將TPU描述為整合運算、儲存、網路與軟體的系統,而非單獨一顆晶片;TPU供應範圍也正從自家雲端擴展至客戶資料中心。
Google Cloud與甲骨文(Oracle)宣布,計劃自2027年起在甲骨文雲端基礎設施(OCI)部署Google TPU算力。本刊也曾報導OCI導入TPU的計畫。
Google Cloud也提供輝達(NVIDIA,$NVDA)GPU。輝達在2027會計年度第二季財報中表示,資料中心營收較去年同期增加117%;公司也將Google Cloud列為下一代Vera Rubin平台合作夥伴。
Alphabet($GOOG、$GOOGL)於10月28日公布第三季財報時表示,Google Cloud營收較去年同期增加103%,TPU系統銷售也帶動成長。財報同時提及TPU業務擴大與雲端營收增加。
Alphabet財務長阿娜特·阿什肯納齊(Anat Ashkenazi)在10月28日的財報說明中表示:「TPU系統銷售在第四季也會擴大,預計2027年營收將有顯著增加。」公司也表示,建立系統庫存對現金流造成壓力。
Comment 0