Back to top
  • 링크복사 複製連結
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

分享

x
區塊鏈

DeepSeek 全面開源推理框架 DeepInfer，輝達(NVDA)與華為昇騰晶片皆可用

裝有散熱片的 AI 運算晶片置於電路板上 / TokenPost.ai

據鏈捕手(ChainCatcher)報導，DeepSeek 已將內部推理框架「DeepInfer」全面開源。同步釋出的還有供正式服務使用的 token 編碼與解碼元件「deepseek-recipe」。

鏈捕手指出，DeepInfer 整合了高效能運算元與最佳化的推理引擎，支援分散式推理、推測解碼(speculative decoding)、SWA Bounded Replay 以及結構化輸出。在硬體方面，輝達(NVDA)與華為昇騰(Ascend)兩大平台都能使用。

DeepSeek 表示，已利用 DeepInfer 為 DeepSeek V4.1 Flash 建立高吞吐、低延遲的大規模推理服務。今後新模型的推理程式碼與最佳化內容，也會持續在 DeepInfer 上更新。鏈捕手另外提到，「deepseek-recipe」的設計與 DeepSeek 官方 API 的處理邏輯完全一致。

<版權所有 ⓒ TokenPost，未經授權禁止轉載與散佈>

#DeepSeek #DeepInfer #開源 #推理框架 #輝達 #華為昇騰

最受歡迎

1
24小時加密貨幣清算1.86億美元，空單占近七成
2
World 向銀行推「人類證明」身分服務 提及 AI 詐騙風險達 400 億美元
3
Coinbase(COIN)將AXIS、PEARL、STABLE納入上架路線圖，開放交易須待做市支援到位
4
【晨間快訊】山寨幣市值兩週縮水1087億美元 迷因幣受創最深
5
ENS DAO 將 ENSv2 以太坊(ETH)主網啟用提案交付鏈上投票
6
AI 晶片新創 Tenstorrent 完成 15 億美元 E 輪募資
7
輝達推出1200億參數企業級開放權重模型 Nemotron 3.5 Super VL
8
美光盤前漲3.9%，半導體股連跌8個交易日後嘗試反彈
9
慢霧公開 DarkSword 木馬分析報告，iOS 加密貨幣錢包面臨威脅
10
貝萊德ETF關聯地址 1.43億美元BTC、ETH轉入Coinbase

其他相關文章

中國外交部反對美國要求停用DeepSeek等中國AI產品

摩根士丹利上調亞馬遜目標價至350美元，並看高AWS成長率

輝達1261萬美元做空部位新開倉，GTC登場前遭關注

英特爾(INTC)重組已完成80%！陳立武:台積電花了10至20年，政府支持不可少

輝達黃仁勳：AI 要「安全帶」不要「急煞車」

分類文章

查看更多

南韓綜合股價指數(KOSPI)傳下跌7.57%　AI獲利疑慮受關注

世界幣(WLD)24小時漲5.88%　未平倉合約減少12.26%

比特幣(BTC)跌0.5%至8.14萬美元 現貨ETF單日淨流入創近一個月最大

柴犬幣(SHIB)跌至 0.00000495 美元，分析指均線構成壓力

塞勒談策略：數位信貸將成主要業務

那斯達克100期貨跌約0.3%，輝達、超微、英特爾盤前走弱

比特幣探7萬9775美元低點，Cody稱修正結束可能性高

0.11美元貼布林通道下緣！Algorand(ALGO)吃單賣量約買量2倍

Revolut支付與加密貨幣服務傳出故障 官方稱客戶資金與資料安全

世界幣(WLD)相關錢包再轉移25萬枚 7個月累計賣出逾300萬美元

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1