微軟推出Maia 200：AI推理每美元效能較自家系統提升30%

微軟(MSFT)自主研發的AI推理加速器「Maia 200」正式亮相，官方表示其每美元運算效能較自家現有系統提升30%。值得注意的是，官方公布的比較對象並非輝達(NVDA)產品，而是微軟自身的舊系統，顯示這款新晶片的定位是強化特定推理任務的成本效益，而非直接取代輝達。

微軟於1月26日發表Maia 200，並將其定位為「用於改善大規模AI推理經濟效益的專用加速器」。公司公布的比較基準是微軟既有系統，而非輝達晶片。

與從零訓練AI模型不同，Maia 200鎖定的是「推理」階段，也就是已完成訓練的模型回應使用者請求的運算過程。生成式AI服務每次收到請求都要重複執行推理運算，因此處理量與電力效率會直接影響營運成本。

微軟表示，Maia 200讓每美元效能較舊系統提升30%。至於外界流傳「比輝達晶片節省30%至40%營運成本」的說法，目前並未在微軟官方資料中獲得證實。

1月28日，微軟在第二財季法說會上進一步說明，Maia 200的總擁有成本（TCO）較公司最新一代自家硬體改善超過30%。TCO涵蓋設備採購、電力支出與維運費用等整體成本。

到了4月29日第三財季法說會，微軟透露Maia 200已在愛荷華州與亞利桑那州的資料中心投入運作，每美元代幣（Token）處理效能較最新一代自家晶片同樣提升逾30%。

微軟目前的策略是同時運用輝達、超微(AMD)與自家Maia晶片，在效能、成本與供應之間取得平衡，而非用單一晶片全面取代通用圖形處理器（GPU），而是依不同工作負載配置最合適的晶片，採混合布局。

專用推理晶片的優勢在於能針對重複出現的運算類型進行硬體最佳化，但相對地應用範圍不如通用GPU廣泛，將既有軟體搬遷至新平台也可能產生額外成本。

Maia 200採用台積電(TSMC)3奈米製程生產，並採用以太網路（Ethernet）為基礎的擴展架構。微軟表示，叢集規模最高可擴展至6144顆加速器。

除了硬體本身，微軟同時公開了Triton等軟體工具。路透社(Reuters)報導指出，這些工具劍指輝達最核心的競爭優勢——CUDA開發者生態系。

AI加速器的競爭力並非單靠晶片效能決定。開發工具、函式庫與既有模型的相容性同樣關鍵，唯有具備這些條件，客戶才願意將工作負載遷移至新晶片。

業界看法不一。科技媒體TechTarget引述分析師觀點指出，Maia 200或許適合像Copilot這類大型聊天機器人式推理應用，但受限於軟體相容性與轉換成本，短期內要取代輝達仍有難度。

部分分析師評論認為，長期而言輝達的市場主導地位可能被稀釋。也有分析師持保留態度，對Maia未來3至4年內能否明顯撼動輝達的地位表示懷疑。

微軟擴大自研晶片布局，反映出公司希望同時運用外部半導體供應商產品與內部設計晶片，藉此調節成本與供應鏈風險。由於目前公布的成效僅以自家基礎設施為比較基準，若直接套用到外部客戶的實際使用成本，恐怕仍嫌過早。

市場關注焦點近期已轉向下一代「Maia 300」。財經媒體《巴倫週刊》(Barron's)報導，微軟正推動擴大自研AI晶片產能，最快可能於9月發表Maia 300。本刊此前也曾報導微軟擴大自研AI晶片產能的計畫，以及Maia 300可能亮相的消息。