Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

輝達推出Nemotron 3.5 Lightning 強化企業AI布局

連接AI推論裝置的GPU板卡與纜線/TokenPost.ai

輝達(NVDA)發表一款鎖定企業「代理式AI」(agentic AI)工作流程設計的開放權重模型「Nemotron 3.5 Lightning」。這次發表的重點不在單一模型的效能競賽,而是把開放模型、資料集與路由工具整合成一套完整的企業部署架構。

Nemotron 3.5 Lightning於11日正式公開。根據華爾街日報(WSJ)報導,這款模型屬於小型模型,專為企業執行生成式AI代理工作流程而設計。

輝達企業生成式AI軟體副總裁卡莉·布里斯基(Kari Briski)表示,新模型「把更強大模型的知識濃縮進更小的架構裡」,讓大型模型的能力能在企業環境中被更有效率地運用。

輝達並未把Nemotron當成單一模型看待,而是視為一整套開發堆疊。公司同時釋出開放權重、開放資料集與開放訓練流程,讓企業與研究人員能依自身環境調整模型。

所謂開放權重模型,是指開發者將訓練完成後的模型參數對外公開,讓使用者能部署在自有基礎設施上並依用途調整,這與同時公開訓練資料與原始碼的「開源模型」在公開範圍上並不相同。

輝達7月6日在官方部落格指出,ICML 2026發表的約145篇論文都引用Nemotron的開放模型與資料集作為研究基礎,顯示Nemotron不只用於企業產品,也在AI研究生態圈中被廣泛使用。

輝達創辦人暨執行長黃仁勳(Jensen Huang)3月25日在官方部落格上表示:「這不是封閉式對開放式的問題,而是封閉式加開放式。」這句話顯示,輝達並非把開放模型當作封閉式商用模型的替代品,而是視為可與之並行運作的AI基礎設施。

這樣的策略方向,也反映在輝達的模型路由工具「Switchyard」上。輝達NeMo官方文件說明,Switchyard負責路由並轉換大型語言模型(LLM)流量。

Switchyard支援OpenAI Chat Completions、OpenAI Responses,以及Anthropic Messages等格式。企業無需將所有請求集中送往單一模型,而是可依業務性質與營運條件,把請求分散給不同模型處理。

一般而言,企業導入生成式AI時,除了效能之外,也會一併考量資料控管、部署環境、成本與模型替換的彈性。將開放權重模型與路由層結合,企業就能在運用自有資料的同時,依不同業務需求配置不同模型。

輝達的策略也呼應了其業務版圖從GPU供應,逐步擴大至模型、資料與協調(orchestration)層的趨勢。本站先前報導,輝達整體營收中,資料中心業務占比已達92%

Nemotron在亞洲市場的應用案例也隨之曝光。輝達7月15日透過官方新聞室表示,日本企業、新創公司與研究機構正在使用Nemotron的開放模型、資料集與函式庫。

參與的企業包括軟銀(SoftBank)、日立(Hitachi)、NTT DATA與Sakana AI等。這些機構運用Nemotron開發符合日語與各產業需求的AI模型與應用程式。

此次發表被解讀為鎖定企業同時運用封閉式模型與開放權重模型的趨勢而來。開放權重模型雖可部署在企業自有基礎設施上並依用途調整,但實際可運用的條件仍會因授權方式與資料公開範圍而有所不同。

輝達將Nemotron模型與資料集結合Switchyard,提出一套涵蓋企業AI從開發到部署全流程的架構。不過,這次模型發表與加密貨幣或AI代幣市場之間,目前並未出現直接關聯。

查證來源:華爾街日報輝達官方部落格Switchyard官方文件輝達ICML部落格輝達新聞室

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1