DeepSeek(深度求索)於9月30日公開適用於華為Ascend 950的運算與通訊函式庫,內容包括矩陣運算函式庫DeepGEMM-Ascend,以及分散式通訊函式庫DeepEP-Ascend。
根據DeepSeek官方GitHub儲存庫,DeepGEMM-Ascend支援Ascend 950,並與既有DeepGEMM的API及開發流程相容。DeepEP-Ascend則是用於華為Ascend NPU機器學習訓練與推論的通訊函式庫,其公開緩衝區API比照NVIDIA版本的DeepEP。
DeepEP-Ascend儲存庫列出在Ascend 950DT測得的頻寬,其中dispatch為373至375GB/s,combine為345至347GB/s。資料顯示,測試使用CANN 9.2.0及試驗性硬體配置。
留言 0