Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

Prime Intellect 收購 Moondream,取得推論最佳化技術

實驗室電路板上安裝的 GPU 與編譯器模組 / TokenPost.ai

Prime Intellect 收購 Moondream,取得讓開放模型在 NVIDIA($NVDA) GPU 上高效執行的軟體與自動生成大型核心(megakernel)的工具。

Crypto Briefing 於 23 日報導,Prime Intellect 共同創辦人兼執行長 Vincent Weißer 證實這項收購。交易金額、完成時間與技術整合時程均未公布。

Moondream 以開源視覺語言模型聞名,可同時處理圖像等視覺資訊與文字。Weißer 表示,收購重點包括 Moondream 的團隊與推論最佳化能力。報導指出,Moondream 員工不到 10 人,先前募得資金為 450 萬美元(約新台幣 1 億 4,500 萬元)。

大型核心技術會將多項運算整合為一個工作,在 GPU 上執行。一般而言,這類工作需要工程師設計;Moondream 則表示,已開發出可為多種模型自動生成大型核心的編譯器。這項工具旨在降低開發負擔。

開放模型可下載權重並自行部署,但每次處理使用者請求都需要推論運算。使用量增加時,GPU 運算與營運成本也會上升。推論最佳化有望改善執行速度與成本,但此次收購能降低多少成本,目前尚無資料。

Prime Intellect 於 10 月 2 日推出開放模型推論服務「Prime Inference」。公司在官方部落格表示,服務將運用多座資料中心的 GPU 基礎設施。媒體報導指出,公司計畫運用 Moondream 技術,讓開放模型在 NVIDIA 伺服器上以更快、成本更低的方式執行;但目前尚未公布該技術已整合至 Prime Inference。

開放模型的競爭已從模型效能擴展至 GPU、推論基礎設施與部署工具。本刊先前也曾報導開放權重模型競爭延伸至 GPU 與推論基礎設施的趨勢。

Prime Intellect 於 7 月完成 1.3 億美元(約新台幣 42 億元)的 A 輪融資,當時報導稱公司估值為 10 億美元(約新台幣 326 億元)。由於收購金額尚未公布,目前無法比較融資規模與交易價格。

公司尚未說明 Moondream 既有開源模型將由誰維護,也未公布收購後是否維持原有使用條款。技術整合時程與模型管理計畫同樣未公開。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1