Marvell($MRVL)推出兩款供AI推論使用的CXL記憶體擴充控制器,DDR4版本最高支援9TB,DDR5版本最高支援6TB,預計於2027年第一季提供客戶樣品。
Marvell於12日發布新聞稿表示,新產品是第二代Structera X記憶體擴充控制器「Structera X 3406」與「Structera X 3506」,目標客群包括雲端、企業及AI資料中心。
兩款產品均支援CXL 3.2與PCIe 6.0,並提供6個DDR4或DDR5記憶體通道,通道數較前一代增加50%。3406透過最多18個DDR4 RDIMM插槽支援最高9TB;3506則透過最多12個插槽支援最高6TB。
CXL是可擴充伺服器記憶體資源,並讓多個主機共用記憶體的連線標準。新控制器支援最多4個主機共用記憶體;以PCIe 6.0 x16連接時,主機端頻寬最高為每秒256GB。
Marvell表示,兩款產品搭載LZ4壓縮與解壓縮功能,處理量最高每秒250GB,依工作負載不同,可將有效記憶體容量提高至2至3倍。不過,此次發布未提供獨立資料驗證該效能在客戶環境中的表現。
Marvell也表示,在相同上下文長度下,首個Token回應時間(TTFT)最多可縮短40%至50%;或在維持延遲的情況下,支援的上下文長度最多可增加至兩倍。這些數據是公司公布的產品效能指標。
大型語言模型(LLM)會使用KV快取處理先前輸入的內容。上下文長度增加時,KV快取所需的記憶體也會增加,因此推論伺服器的記憶體容量與頻寬日益重要。
相較於在每台伺服器固定配置記憶體,透過擴充或共用記憶體,可能有助減少閒置資源。不過,此次發布未附上在客戶環境中驗證效能的獨立資料。
安全性與穩定性功能包括抗量子密碼、Caliptra 2.0、CXL IDE、AES-256記憶體加密,以及StructGuard RAS。Marvell表示,三星電子與SK海力士已驗證其記憶體產品的相容性。
產品於2026年OCP全球高峰會亮相,客戶樣品預計於2027年第一季供應。
留言 0