新聞 
幣種資訊 
關於我們 
NVIDIA(NVDA)執行長黃仁勳（Jensen Huang）於21日表示，他打造了「OpenShell」，讓AI代理能在明確劃定的範圍內自由完成有價值的工作。在同一場發表中，黃仁勳也介紹，DSX在2GW規模下能將冷卻用水量降到接近零，而DSX MaxLPS最高可將單一token的耗電量降低30%。
OpenShell屬於參考架構。根據PANews的報導，它能協助企業基礎設施與邊緣系統打造、控管、監看並執行安全的AI代理。所謂邊緣系統，是指在現場就近處理資料、而非仰賴中央伺服器的系統。
AI代理指的是毋需使用者逐步下指令、便能自主完成任務的軟體。黃仁勳稍早在倫敦接受《財富》(Fortune)雜誌採訪時，曾表示AI代理應在安全的容器中執行，且只應被賦予完成任務所需的最小權限。這次推出的OpenShell延續同樣方向：先劃定允許的範圍，再讓代理在範圍內行動。
token是AI模型處理文字的基本單位，單一token耗電量也是直接牽動AI服務營運成本的指標。摩根士丹利(Morgan Stanley)在3月17日發布的研討會摘要中指出，黃仁勳曾說明，代理式AI消耗的token量最高可能是一般生成式AI提示的100萬倍。隨著AI代理使用量增加，耗電效率數字的重要性也隨之提高。
評論：30%是「最高」數值，PANews的報導並未說明這個數字是在何種條件、與何種比較基準下得出。無論是冷卻用水「接近零」還是單一token耗電降幅，都是NVIDIA自行公布的數字，實際資料中心運作環境下的效果仍有待個別驗證。
留言 0