Nebius收購AI推論最佳化新創公司Inferize,將其技術與工程團隊納入企業級推論平台Token Factory,目標是縮短AI模型啟動與擴展所需時間,減少GPU閒置。
Nebius於10月1日發布公告宣布收購,未公開交易金額等具體條件。
大型AI模型在開始提供服務前,載入資料的「冷啟動」過程可能造成延遲。為因應流量激增而啟動新執行個體,或在強化學習期間更新模型權重時,GPU也可能因等待資料而閒置。企業為維持服務水準,通常得準備高於實際需求的備用運算容量。
Nebius表示,Inferize的技術可縮短模型啟動與擴展時間,協助企業依實際需求調整運算容量。公司稱,此技術有望提升GPU使用率並降低閒置容量成本;這些是公司提出的預期效益,公告未說明收購後的效能或成本變化。
此次收購是Nebius持續強化Token Factory推論功能的一環。ABMedia報導,Eigen AI的技術為平台提供模型與核心層級的調整能力,Clarifai則補強系統層級的推論與運算協調技術。Inferize工程師也將參與平台整體開發。
Inferize於2026年1月成立。Nebius公告指出,該公司在創立後3個月內完成技術原型。
Nebius先前收購Eigen AI,並表示將把相關技術整合至Token Factory。此次收購Inferize,同樣為這個推論平台增添技術與人力。
留言 0