耀途資本創始合夥人白宗義(Bai Zongyi)表示:「今年AI基礎設施的主要變數有四項。」他點名推論運算、伺服器互連、電力與冷卻,以及終端與邊緣運算。
這番話出自20日舉行的第20屆中國投資年會暨有限合夥人峰會。主辦方將活動安排在19日至20日,並把白宗義的演講排在20日。
第一項變數是運算重心從模型訓練轉向推論。推論是完成訓練的模型回應使用者需求、生成內容的階段。白宗義認為,如何以更快、更低成本生成 token,將是這一階段的重要課題。
第二項是大型叢集內伺服器之間的連線。要整合多個運算裝置,必須透過電氣或光通訊傳輸資料;白宗義也將記憶體列為供應鏈變化的一環。
另外兩項變數是電力供應與冷卻系統,以及終端與邊緣裝置的AI運算。邊緣運算指在中央資料中心以外的終端或邊緣裝置上進行運算。
白宗義表示,耀途資本今年2月以來已投資約30家公司,多數位於AI基礎供應鏈。他補充,約90%的投資案以天使輪為主,屬於早期輪次;這是他轉述的公司統計。
他也認為,部分創投領域存在泡沫,AI相關二級市場表現疲弱。這是白宗義對市場的評估,並未提供反映整體市場的指標。
產品案例之一是輝達(NVIDIA,NVDA)今年3月發表的低延遲推論系統 Groq 3 LPX。輝達表示,該系統採用了 Groq 的推論技術。
輝達公布的規格包括256顆LPU、總計128GB的SRAM,以及每秒640TB的scale-up頻寬。裝載運算裝置的托盤採用液冷設計。
這套系統將推論運算、互連與冷卻整合在同一項產品設計中。不過,產品規格本身無法證明AI供應鏈各領域的營運表現或投資成果。
白宗義的演講逐字稿稱,輝達今年上半年以200億美元(約26.7兆韓元)收購 Groq 資產。輝達向美國證券交易委員會(SEC)提交的文件則以不同方式描述這筆交易。
文件記載,雙方於2025年12月簽訂非專屬技術授權協議,輝達也聘用部分員工。輝達表示,交易未包括 Groq 的客戶合約、既有產品或股權。
申報文件記載,交易對價總額為170億美元(約22.7兆韓元),與演講逐字稿所述的200億美元收購,在金額和交易形式上都有差異。
輝達在交易完成時支付130億美元(約17.4兆韓元)。文件並記載,其餘40億美元(約5.3兆韓元)將於一年內支付。
Comment 0