韓國AI新創萊納(LINER)與AI半導體業者Rebellions宣布,將攜手推動以國產「神經網路處理器」(NPU)為核心的AI全端解決方案事業。雙方希望藉此降低目前AI基礎設施過度依賴外國圖形處理器(GPU)帶來的成本與資安負擔。
萊納20日表示,已與AI半導體企業Rebellions協議共同推動AI全端解決方案業務。雙方計畫結合萊納的AI代理人技術與Rebellions以NPU為基礎的AI半導體基礎設施,同時瞄準韓國國內外市場。
所謂「全端AI」,是把半導體、基礎設施、模型、資料、服務等層級整合成單一營運架構的方式。企業客戶導入AI服務時,除了模型效能外,還得一併考量推論成本、資料存放地點、資安要求與營運複雜度。
此次合作正是瞄準這一點。雙方希望擺脫以昂貴外國GPU為中心的架構,改為串連國產NPU與AI代理人技術,藉此降低AI服務的營運成本。
兩家公司先前已在韓國政府推動的自主基礎(Foundation)AI模型計畫中合作過。萊納負責專業知識與資訊檢索領域的AI代理人技術,Rebellions則提供針對AI推論最佳化的NPU基礎設施。
NPU是專為人工智慧運算設計的半導體。相較於GPU憑藉泛用型平行運算能力帶動AI訓練與推論市場成長,NPU則專注於更有效率地處理特定AI運算工作。
在AI基礎設施市場,取得運算資源的成本已成為核心負擔。隨著AI服務需要龐大運算資源,模型開發商與服務業者一直仰賴雲端GPU、伺服器與網路基礎設施來執行訓練與推論工作。
韓國國內AI半導體企業也在這股趨勢下,同步推進商業化與資金募集。Rebellions、FuriosaAI、DeepX等韓國AI半導體業者一邊調整上市與募資程序,一邊推動量產與拓展客戶。
在這次合作中,雙方也把公家機關、地方自治團體與民間企業所要求的資料主權與資安可信度,列為主要課題。這反映出當AI服務處理敏感資料時,基礎設施所在地、營運主體與資安管控方式,都會影響導入與否的判斷。
金鎮宇(Kim Jin-woo)LINER執行長表示:「萊納的技術實力若加上Rebellions高效能的NPU,就能在全球市場提出兼具效能與成本競爭力的解決方案」,並說明「在韓國國內,也能為重視資料主權與資安的公家機關、地方政府及民間企業,提供值得信賴的選項」。這番話點出雙方合作希望同時兼顧海外市場拓展與國內公部門需求。
這次合作是AI服務業者與AI半導體業者結合各自技術、朝實際商業化邁進的嘗試。至於具體供應對象、合約規模與商用上市時程,目前尚未公開。
留言 0