Prime Intellect 收購 Moondream,取得讓開放模型在 NVIDIA($NVDA) GPU 上高效執行的軟體與自動生成大型核心(megakernel)的工具。
Crypto Briefing 於 23 日報導,Prime Intellect 共同創辦人兼執行長 Vincent Weißer 證實這項收購。交易金額、完成時間與技術整合時程均未公布。
Moondream 以開源視覺語言模型聞名,可同時處理圖像等視覺資訊與文字。Weißer 表示,收購重點包括 Moondream 的團隊與推論最佳化能力。報導指出,Moondream 員工不到 10 人,先前募得資金為 450 萬美元(約新台幣 1 億 4,500 萬元)。
大型核心技術會將多項運算整合為一個工作,在 GPU 上執行。一般而言,這類工作需要工程師設計;Moondream 則表示,已開發出可為多種模型自動生成大型核心的編譯器。這項工具旨在降低開發負擔。
開放模型可下載權重並自行部署,但每次處理使用者請求都需要推論運算。使用量增加時,GPU 運算與營運成本也會上升。推論最佳化有望改善執行速度與成本,但此次收購能降低多少成本,目前尚無資料。
Prime Intellect 於 10 月 2 日推出開放模型推論服務「Prime Inference」。公司在官方部落格表示,服務將運用多座資料中心的 GPU 基礎設施。媒體報導指出,公司計畫運用 Moondream 技術,讓開放模型在 NVIDIA 伺服器上以更快、成本更低的方式執行;但目前尚未公布該技術已整合至 Prime Inference。
開放模型的競爭已從模型效能擴展至 GPU、推論基礎設施與部署工具。本刊先前也曾報導開放權重模型競爭延伸至 GPU 與推論基礎設施的趨勢。
Prime Intellect 於 7 月完成 1.3 億美元(約新台幣 42 億元)的 A 輪融資,當時報導稱公司估值為 10 億美元(約新台幣 326 億元)。由於收購金額尚未公布,目前無法比較融資規模與交易價格。
公司尚未說明 Moondream 既有開源模型將由誰維護,也未公布收購後是否維持原有使用條款。技術整合時程與模型管理計畫同樣未公開。
留言 0