新聞 
幣種資訊 
關於我們 
亞馬遜($AMZN)推出 TorchNeuron 公開測試版，協助開發者在自家 AI 晶片 Trainium2、Trainium3 上執行既有 PyTorch 程式碼。開發者只要調整程式中的裝置設定，就能開始測試 Trainium。
AWS 於 20 日宣布推出公開測試版。PyTorch 前一天介紹了 TorchNeuron 的運作方式。這項工具以 Apache 2.0 授權開源。
PyTorch 是用於建立與訓練 AI 模型的開源框架。將工作移至其他晶片時，開發者可能需要依硬體調整程式碼並驗證結果。TorchNeuron 著重於降低這項轉換工作的負擔。
在既有程式碼中，將模型執行裝置指定為 .to('neuron')，即可使用 Trainium。支援功能也包括適用於研究與除錯的 eager 執行、用於效能最佳化的 torch.compile，以及分散式訓練 API。PyTorch 表示，這項工具的設計目標是在既有開發流程中支援這些功能。
「修改一行」指的是啟動裝置切換的方法，並不代表所有模型和函式庫都能不經額外調整就正常運作。程式碼轉換變得容易，也不能據此認定其成本或效能優於既有 GPU。
語音 AI 公司 Deepgram 在 PyTorch 的介紹文章中公布了自家基準測試結果。Deepgram 表示，以每美元可處理的輸入音訊時間計算，Trainium 約比其既有 GPU 比較基準多 60%。這項結果僅適用於 Deepgram 評估的工作項目與比較基準。
留言 0