Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

微軟公開 Maia 300,AI 推論優先採用自研晶片

微軟($MSFT)公開第三代 AI 加速器 Maia 300,並表示將以自研晶片為主力執行 AI 模型推論,藉此分散資料中心長期依賴輝達($NVDA)圖形處理器(GPU)的情況。

微軟於 12 日(當地時間)公布 Maia 300。CNBC 報導,晶片預計於 2027 年開始量產,微軟目標是部署數 GW 規模的 Maia 系列晶片。不過,微軟總經理艾利斯特・斯皮爾斯(Alistair Speirs)未透露部署時程。

微軟計畫在一座資料中心機櫃中安裝 96 顆 Maia 300,是 Maia 200 機櫃配置數量的兩倍。公司表示,新晶片每座機櫃最多可處理的 AI token 數量是前代的 7 倍,每 MW 的 token 處理量則比 GPU 高 40%。

微軟總經理艾利斯特・斯皮爾斯表示:「我們需要新的架構,更有效運用電力並提升效能。」他補充,資料中心的用電量與營運成本直接相關。

Maia 300 延續微軟自主開發 AI 晶片的計畫。公司於 2023 年公布首款 AI 晶片 Maia 100,並於今年 1 月推出 Maia 200。微軟執行長薩蒂亞・納德拉(Satya Nadella)7 月表示,Maia 200 的每美元效能比現有資料中心的最新硬體高 30%。

微軟目前使用 Maia 200 執行 OpenAI 模型。微軟技術院士吉姆・克利文(Jim Kleewein)表示,採用 Maia 300 後,Microsoft 365 Copilot 部分功能的速度也可能提升。

微軟透過 Azure 雲端為客戶運行 AI 模型,並提供 Microsoft 365 Copilot 與 GitHub Copilot。自研晶片將用於執行這些服務中的模型,其效能與能源效率也會影響資料中心營運成本。

不過,擴大自研晶片的使用並不代表淘汰輝達與超微($AMD)的產品。斯皮爾斯表示,微軟仍會在模型訓練中使用這兩家公司的晶片。

目前其他企業無法按小時租用微軟 Maia 加速器。摩爾洞察與策略(Moor Insights & Strategy)執行長派翠克・摩爾黑德(Patrick Moorhead)表示:「微軟以外,目前還沒有人測試過這款晶片。」

微軟預計於 2027 年開始生產 Maia 300。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1