南韓加密貨幣交易所Upbit營運商Dunamu旗下創投公司Dunamu&Partners,宣布投資英國AI推理最佳化新創公司Callosum 500萬美元。這筆資金沒有流向加密貨幣價格相關題材,而是投入AI基礎設施的成本結構,也顯示這家創投公司的布局方向。
Dunamu&Partners於25日表示,參與了Callosum的種子輪募資,該輪總計募得1億美元。
本輪由歐洲創投Atomico領投,Plural、DCVC與英國主權AI基金等機構共同參與。
Callosum由丹尼爾·阿卡爾卡(Danyal Akarca)與亞沙·阿赫特貝格(Jascha Achterberg)於2024年在英國倫敦共同創立。兩位創辦人皆有劍橋大學腦科學研究背景,將這項經驗延伸到AI運算的分工架構,聚焦如何把AI任務拆分到不同模型與晶片上處理。
公司主打的核心「詞」是「異質AI推理」。做法是把一項任務拆成細部單元,再依照成本、耗電與速度等條件,分配給不同的模型與半導體處理。
推理指的是已完成訓練的AI模型,處理使用者請求並輸出答案或結果的運算過程。生成式AI服務愈是投入實際業務,訓練階段之外、反覆呼叫產生的營運成本與延遲,就愈成為負擔。
過去AI推理多半是用單一大型模型,搭配單一種類的圖形處理器(GPU)基礎設施運作。Callosum的做法不同,並非所有請求都交給同一套基礎設施處理,而是依任務性質搭配不同的模型與晶片組合。
Callosum表示,在金融領域的AI代理任務中,相較於既有GPU基礎設施的單一模型方式,處理速度提升4倍,運算成本降低70%,任務成功率也提升10%。評論:這些數字是公司自行公布的效能資料,實際客戶環境中的成本節省幅度,仍會因應用任務與呼叫規模而有所不同,仍需審慎看待。
這筆投資被解讀為Dunamu&Partners布局AI基礎設施的一環。目前並無資料顯示這項投資與Dunamu的加密貨幣本業直接相關,已確認的內容僅止於對一家處理AI推理成本與半導體組合問題的公司進行股權投資。
本報先前曾報導Callosum公布1億美元種子輪募資、並以Cerebras推理基礎設施作為合作夥伴的消息。當時Callosum即提出將金融、資安與企業AI任務依性質拆分、分配給不同模型與晶片的策略。
Callosum目前與Cerebras、Rebellions、Axelera AI、Tendrils、美超微(SMCI)等半導體與AI基礎設施企業合作。其中Rebellions是Dunamu&Partners早期投資的投資組合公司之一。
南韓端的連結點在於Rebellions與AI半導體生態系。Callosum與Rebellions的合作,是透過Dunamu&Partners的引介促成,這也被視為南韓AI推理半導體企業打入海外AI基礎設施企業合作網絡的案例。
丹尼爾·阿卡爾卡(Danyal Akarca)Callosum執行長表示:「當多個模型與半導體能作為單一系統運作時,AI就能以合理成本、更快更精準地運作。」他並提到,南韓擁有世界級的AI半導體生態系,透過Dunamu&Partners引介展開的Rebellions合作只是起點,未來將持續拓展亞洲市場的機會。評論:這番話顯示,Callosum把南韓市場定位為半導體夥伴關係的擴張據點,而非單純的募資來源。
李康俊 Dunamu&Partners執行長表示:「隨著AI持續深化發展,為特定任務找出最具效益且符合成本效率的組合,這樣的協調層,將成為創造價值的重要領域。」他接著說明:「這是系統層面的課題,而非單純的軟體問題,Callosum創辦團隊卓越的研究成果與早期商業化表現,正是吸引全球服務、半導體與雲端服務商關注的原因。」
留言 0