Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

超微(AMD) MI350P 將支援 Windows Server 2025、2028,GPU 支援預覽版預計 2027 年上半年推出

企業機房內伺服器設備的散熱風扇護網 / TokenPost.ai

超微(AMD)與微軟(Microsoft,MSFT)宣布,AI 加速器 Instinct MI350P 將支援 Windows Server 2025 與 2028。

超微於17日在官方部落格公布這項計畫。企業可在自有伺服器上執行 AI 模型,並透過 GPU 加速「AI 推論」運算。推論是完成訓練的 AI 模型接收輸入後產生回應的過程。

微軟同日推出 Windows Server 2028 公開預覽版。微軟在 Windows Experience 部落格表示,MI350P 預計自2027年上半年起,以預覽版形式支援 Windows Server 2025 及後續版本。Windows Server 作業系統的公開預覽與 MI350P 支援預覽時程不同。超微於18日查閱的產品頁面中,作業系統支援清單列有 Linux x86 64 位元。

超微提出的應用情境,是處理企業內部資料的 AI 服務。企業若在自有伺服器上部署推論功能,便能管理輸入文字、搜尋到的資料及 AI 回答在哪裡處理。超微也提出,敏感資訊可留在自有設備處理,其他工作則使用雲端模型。

單張 MI350P 搭載 144GB HBM3E 記憶體,最高記憶體頻寬為每秒 4TB,透過 PCIe 5.0 安裝於伺服器,最高板卡功耗為 600W。超微產品資料指出,功耗設定可降至 450W。這些是 GPU 本身的規格,不代表 AI 服務在 Windows Server 上的實際處理速度。

超微列出的支援功能包括 GPU 分割及自家的 AI 推論微服務。GPU 分割可切分運算資源並分配給多項工作,企業可依需求為小型語言模型或文件搜尋用的嵌入模型配置資源。推論微服務則是協助部署受支援模型的軟體。

超微也介紹將 SQL Server 2025 的向量功能與 MI350P 結合的應用案例。在檢索增強生成(RAG)流程中,系統會從企業資料找出相關內容,再用於 AI 回答,並可採用 GPU 產生的嵌入向量。超微表示,計畫與微軟 SQL Server 團隊展示這套配置;開發者程式碼助理及企業內部文件搜尋助理也被列為應用方向。這些是超微提出的計畫與用途,目前並非已測得的效能或導入成果。

微軟正開發 Windows Server 推論環境的部署與設定、加速器管理,以及 AI 模型請求分配功能。微軟表示,為支援開放權重模型與客製模型,目前正針對 Foundry Local、Windows ML、vLLM、Llama.cpp 等工具進行相關工作。Windows Server 2028 的安全、效能與管理功能目前以預覽版提供;企業內部 AI 功能則透過早期存取計畫,開放給有限客戶使用。

超微此前曾公開搭載 MI350P 的 AI 工作站原型。當時的原型是個人用設備,可不經雲端伺服器,在本機執行大型 AI 模型;這次公布的計畫則將同一款 GPU 擴展至企業 Windows Server 環境。這款 GPU 也將用於超微10月公布的 Helios 機架企業版配置。

超微尚未公布 RAG 配置的具體展示時程。

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1