千問27B模型上市當天 超微(AMD)同步支援本地端運行

超微(AMD)宣布，阿里巴巴(BABA)旗下開源模型「通義千問（Qwen）27B」等級版本一經發布，即可立即在自家AI PC與工作站上完成本地端部署，不必仰賴雲端連線就能執行大型開源AI模型，呼應近來AI運算逐漸從雲端走向本地端的趨勢。

根據Odaily報導，超微為通義千問3.8 27B模型提供「Day 0」（發布當日）支援，開發者從模型公開的第一天起，就能在超微硬體上完成本地端運行。

該模型被介紹為擁有270億個參數的密集型（dense）模型。超微表示，將持續針對程式碼生成、實務應用、研究與長文本AI應用場景，優化通義千問系列模型的運行表現。

此次支援以開源推論框架「llama.cpp」為基礎，適用對象包括搭載超微處理器的AI PC與工作站，以及單張32GB超微顯示卡；顯示記憶體超過24GB的可變顯示記憶體機型，或配備獨立顯示記憶體的超微硬體平台，同樣在支援範圍內。

超微初步測試結果顯示，在Ryzen AI Max+ 395處理器上，本地端推論效能最高可達每秒24.5個token；單張Radeon AI PRO R9700顯示卡（GPU）則最高可達每秒51.8個token。測試是在Windows環境、llama.cpp的Vulkan後端，並搭配多重token預測（multi-token prediction）優化的條件下進行。

所謂「Day 0」支援，是指模型公開的同時，就已針對特定硬體與軟體環境完成相容準備，使用者能立即上手運行。過去大型AI模型多以雲端為主要使用途徑，本地端運行則能減少資料傳輸、讓使用者自行掌控開發環境，是兩者的主要差異。

阿里巴巴表示，通義千問系列模型皆以開源形式釋出，供開發者、研究機構與企業自由下載、部署與使用。Odaily報導指出，新公開的「通義千問3.8-27B」屬於原生多模態密集型模型，270億參數規模的表現優於前一代「通義千問3.7-Plus」。

不過，模型版本命名仍有待進一步確認。TokenPost此前報導，阿里巴巴27B等級的開放權重模型，在官方公告與Hugging Face模型列表中被標示為「通義千問3.6-27B」。當時PANews所稱的「通義千問3.8-27B」，與官方資料上的「通義千問3.6-27B」版本標示出現落差，但整體而言，此事件的核心仍是阿里巴巴27B等級多模態開放權重模型陣容的擴充。

此次支援案例，正好落在AI晶片與本地端AI基礎建設競爭交會的節點上。超微同時主打中央處理器（CPU）、顯示處理器（GPU）與AI PC專用處理器，持續擴大讓開發者能自由選用雲端或本地端環境的生態系。

與加密貨幣市場的直接關聯則相對有限。TokenPost稍早報導，本地端AI模型與開放權重模型的競爭，可能牽動去中心化運算、AI驗證、開發者工具等領域的發展。至於此次超微的支援措施，是否對相關代幣的價格或交易量帶來直接影響，目前並未有相關資訊呈現。

超微表示，隨後續軟體與模型優化持續推進，實際效能有望進一步提升。目前已確認的內容，是通義千問27B等級模型的本地端運行支援、初步測試數據，以及開源部署的適用範圍。