新聞 
幣種資訊 
關於我們 
Runware推出20呎貨溜型AI推理設備「Sonic Inference Pod」，喊出3週內完成模組化資料中心部署的目標，企圖用組裝式硬體縮短傳統資料中心動輒數月的建置時程。
根據Runware官方產品頁面，這款Pod單台就能提供1MW規模的AI推理運算能力。公司設定的目標是把部署速度較傳統資料中心提升50倍，同時把建置成本（CAPEX）與營運成本（OPEX）壓低80%。相較於訓練大型模型，這套基礎設施更聚焦在即時回應使用者請求的AI推理作業，也就是業界俗稱的「inference」需求。
Pod內部整合伺服器、儲存裝置、網路設備與散熱系統，Runware同時運作專屬的路由軟體，負責把使用者請求分派到合適的Pod與節點。公司主打支援超過40萬個模型的「Model Lake」，以及低於1秒的冷啟動速度。在長文本推理所需的儲存層與電力效率成為AI基礎設施一大課題之際，Runware這套做法等於是把運算設備盡量搬到需求所在地附近，減少資料傳輸的延遲。
Runware在1月29日（當地時間）於官方部落格宣布完成5000萬美元的A輪募資，由Dawn Capital領投，Comcast Ventures、Speedinvest、Insight Partners與a16z Speedrun參與投資。公司表示，自2023年成立以來已累積超過20萬名開發者與3億名終端使用者，處理的生成請求超過100億次。
AI資料中心與電力需求同步攀升，也牽動比特幣(BTC)採礦基礎設施的轉型方向，兩者都在爭奪同樣的電力與土地資源。不過目前並無資料顯示Sonic Inference Pod會直接用於加密貨幣挖礦或區塊鏈網路運作。
評論 模組化、貨溜化的AI基礎設施確實是縮短部署時程的可行解方，但3週部署、50倍速度與80%成本削減都是Runware自行提出的產品目標，尚未見到第三方場域的獨立驗證。
實際安裝地點、電力採購條件、GPU配置，以及依客戶而異的延遲表現，仍需要更多獨立基準測試才能進一步確認。
留言 0