Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

129萬至474萬韓元估算:H100 8張租用72小時計算器上線

置於防靜電墊上的大型 GPU 加速卡 / TokenPost.ai (mono)

租用8張NVIDIA H100 80GB GPU 72小時,雲端租金估算因供應商而異,介於129萬至474萬韓元,最低價比最高價低73%。

MarkTechPost於11日公布雲端GPU租用費比較服務GPU Leaderboard,以及Chrome擴充功能GPU Leaderboard: Deploy It。這項服務根據供應商公開的費率比較GPU租用成本。

截至12日查看時,儀表板列出24家供應商的201種GPU執行個體,其中隨選型有148種、Spot型有53種;畫面標示的價格基準日為10日。

GPU Leaderboard比較使用一張GPU一小時的費率。儘管名稱中有「Leaderboard」,它並非測量處理速度或運算效能、再據此排名的基準測試工具。

預設試算條件為租用8張H100 80GB、使用72小時,並將使用率設為90%。計費基準為576 GPU小時,計算器估算的實際使用量則是518.4 GPU小時。90%是使用者輸入的假設值,並非實測使用率。

計算器顯示的費用最低為967.68美元(約129萬韓元),中位數為1,716.48美元(約229萬韓元),最高為3,545.28美元(約474萬韓元)。韓元換算採用1美元兌1,337韓元。

供應商價目表的每小時價格採用不同計費單位。Latitude列出的H100 80GB GPU,單張每小時起價為1.68美元(約2,250韓元);CoreWeave則以每小時49.24美元(約6萬6,000韓元)提供搭載8張H100的HGX執行個體。

目前沒有資料證明兩項商品的GPU配置、供應地區與實際可用狀況相同,因此難以將價目表上的每小時費率視為同條件下的直接比較。

使用者可以調整GPU型號與數量、使用時間及使用率,試算總成本;也能查看各GPU的隨選最低費率與供應商商品清單。

本刊先前比較38家雲端業者與32種GPU產品時,曾指出H100租用費價差最高達18倍。

同步公布的Chrome擴充功能會讀取Hugging Face模型頁面的模型大小,並估算FP16、INT8與INT4格式所需的VRAM,協助使用者評估模型運作所需的記憶體容量。

擴充功能也標榜可在GitHub儲存庫搜尋模型參照,並能透過瀏覽器工具列搜尋模型或GPU。

資料蒐集說明在Chrome線上應用程式商店與服務隱私政策中的描述並不一致。Chrome線上應用程式商店標示開發者不會蒐集或使用使用者資料;服務政策則說明,使用者在提示視窗同意後,會依預設開啟的「Share usage」設定傳送查詢過的模型ID、路徑與時間等資料。政策指出,取得同意前不會傳送資料。

MarkTechPost表示,供應商價格每天都會重新確認。不過,儀表板在12日查看時仍將10日列為價格基準日;服務條款也提醒,蒐集到的價格、可用性與配置資訊可能過時、不完整或不準確。

計算結果是依所選商品與使用率等輸入條件得出的比較值。僅憑畫面顯示的費率,無法判斷相同工作負載的實際總成本或處理效能差異。

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1