新聞 
幣種資訊 
關於我們 
AMD於23日表示，NeuroSpark將在Oracle Cloud Infrastructure（OCI）裸機環境中，使用AMD Instinct GPU與ROCm處理推論工作，應用於語言模型、影片生成模型及文字轉語音模型。
AMD表示，這項配置可增加NeuroSpark提供給客戶的運算容量，但未公布GPU型號與導入規模。
AMD指出，NeuroSpark會依模型規模，以及延遲與效能需求選擇硬體。AMD也表示，部分進階模型因此有了成本較低的選項。
公告未列出成本比較對象、工作條件或節省幅度，也未提供獨立驗證資料。
AMD轉述，NeuroSpark創辦人Thomas Ning表示，運用AMD晶片的潛力，有助提升效能與成本效益。這是公司人士的說法，並未提供實測效能或成本結果。
AMD表示，NeuroSpark會以實際工作負載，測試各模型的推論與訓練框架，並依據結果調整硬體與軟體。測試過程會使用基於ROCm的推論引擎ATOM與核心函式庫AITER，也正著手整合開源推論引擎SGLang。
目前未公布各模型的處理量或回應延遲比較結果。因此，公告能確認的是NeuroSpark將在OCI使用Instinct GPU處理推論工作。
甲骨文（Oracle，$ORCL）在客戶案例中介紹，NeuroSpark基於跨區域的可靠性、效能與支援，選擇OCI運算服務。這份資料證實NeuroSpark使用OCI，但未提及AMD GPU。
AMD與甲骨文於2024年宣布在OCI提供MI300X執行個體與ROCm。甲骨文的技術文件列出搭載8顆MI300X GPU的配置，但NeuroSpark是否實際使用該型號尚未確認。
AMD先前曾公布Meta模型的GPU執行配置，說明特定模型的執行方式。此次則是NeuroSpark宣布在OCI使用Instinct GPU進行推論；GPU型號、導入規模與服務上線日期均未公布。
留言 0