微軟($MSFT)公開第三代 AI 加速器 Maia 300,並表示將以自研晶片為主力執行 AI 模型推論,藉此分散資料中心長期依賴輝達($NVDA)圖形處理器(GPU)的情況。
微軟於 12 日(當地時間)公布 Maia 300。CNBC 報導,晶片預計於 2027 年開始量產,微軟目標是部署數 GW 規模的 Maia 系列晶片。不過,微軟總經理艾利斯特・斯皮爾斯(Alistair Speirs)未透露部署時程。
微軟計畫在一座資料中心機櫃中安裝 96 顆 Maia 300,是 Maia 200 機櫃配置數量的兩倍。公司表示,新晶片每座機櫃最多可處理的 AI token 數量是前代的 7 倍,每 MW 的 token 處理量則比 GPU 高 40%。
微軟總經理艾利斯特・斯皮爾斯表示:「我們需要新的架構,更有效運用電力並提升效能。」他補充,資料中心的用電量與營運成本直接相關。
Maia 300 延續微軟自主開發 AI 晶片的計畫。公司於 2023 年公布首款 AI 晶片 Maia 100,並於今年 1 月推出 Maia 200。微軟執行長薩蒂亞・納德拉(Satya Nadella)7 月表示,Maia 200 的每美元效能比現有資料中心的最新硬體高 30%。
微軟目前使用 Maia 200 執行 OpenAI 模型。微軟技術院士吉姆・克利文(Jim Kleewein)表示,採用 Maia 300 後,Microsoft 365 Copilot 部分功能的速度也可能提升。
微軟透過 Azure 雲端為客戶運行 AI 模型,並提供 Microsoft 365 Copilot 與 GitHub Copilot。自研晶片將用於執行這些服務中的模型,其效能與能源效率也會影響資料中心營運成本。
不過,擴大自研晶片的使用並不代表淘汰輝達與超微($AMD)的產品。斯皮爾斯表示,微軟仍會在模型訓練中使用這兩家公司的晶片。
目前其他企業無法按小時租用微軟 Maia 加速器。摩爾洞察與策略(Moor Insights & Strategy)執行長派翠克・摩爾黑德(Patrick Moorhead)表示:「微軟以外,目前還沒有人測試過這款晶片。」
微軟預計於 2027 年開始生產 Maia 300。
留言 0