約3天完成AMD MI355X輸入處理　Anthropic：僅涵蓋單一模型

Anthropic表示，利用Claude Mythos Preview，約3天便讓一款Claude模型的輸入處理功能在超微（AMD）MI355X GPU上達到可用效能；此次公開的實驗範圍僅限輸入處理階段，並非整個模型。

BlockBeats報導指出，Anthropic在IPO路演上公開這項實驗。所需GPU kernel幾乎都由Claude移植或重新編寫，人為介入有限。

輸入處理是模型讀取使用者內容並開始運算的階段。這項功能能在AMD晶片上運作，並不足以判斷模型生成回答的完整推論流程，或大規模服務的營運效能。

Anthropic曾表示，過去導入新的晶片平台時，通常需要數十名工程師投入6至12個月。這個數字指的是平台導入經驗；此次約3天完成的則是一款模型的輸入處理功能，兩者工作範圍不同。

GPU kernel是讓GPU執行特定運算的低階程式碼。若要在另一款GPU上執行原本為特定晶片撰寫的kernel，必須確認程式碼相容性，依晶片架構調整，並測試運算結果與執行速度。

輝達（NVIDIA，NVDA）於2006年推出CUDA，這是用來編寫及執行GPU程式的平台。BlockBeats指出，約從2018年起，PyTorch、TensorFlow等主要深度學習框架廣泛使用CUDA及相關運算函式庫；輝達的CUDA說明文件也介紹了平台功能。

輝達也持續提供多GPU通訊、除錯與效能最佳化工具。長期累積的程式碼與工具，使轉換到其他晶片時，除了修改程式碼，也需要處理相容性與效能調校。

BlockBeats指出，AMD MI355X配備288GB高頻寬記憶體，但為輝達GPU設計的kernel可能無法直接在AMD晶片上運作，即使能執行，效能也可能不如預期，因此需要依AMD架構調整並反覆測試。

AMD提供ROCm與HIPIFY工具，協助移植CUDA程式；Triton等跨平台工具也能降低轉換負擔。不過，複雜的低階運算程式碼仍可能需要額外最佳化。AMD的HIPIFY說明文件介紹了相關工具。

本報先前曾報導，在MI355X初期評估中，一名工程師開始作業後，主力模型的效能圖表在週末期間上升。這次公開的內容則提出單一模型輸入處理階段，以及約3天的作業時間。

Anthropic在上市申請文件中表示，公司花數年建立多晶片運算分配系統，涵蓋輝達GPU、AMD GPU、Google（GOOGL）TPU及亞馬遜（AMZN）Trainium。系統會依價格與效能，選擇工作所使用的晶片。

Anthropic與AMD在7月的聯合公告中表示，Anthropic已在使用MI355X，雙方並將運用Claude最佳化AMD GPU工作、加快ROCm開發。ROCm是讓運算程式在AMD GPU上執行的軟體環境。

Anthropic共同創辦人暨首席運算長湯姆·布朗（Tom Brown）當時表示：「在不同硬體上運作，能讓我們為每項工作分配合適的硬體。」這說明Anthropic的目標是避免營運依賴單一晶片。

投資人馬塞洛·P·利馬（Marcelo P. Lima）認為CUDA的進入門檻已消失。分析師班·普拉迪安（Ben Pouladian）則指出，在AMD上執行部分運算，與讓整套系統大規模、穩定且具成本效益地運作，是兩回事。

AMD已同意向Anthropic投資最高50億美元。雙方計劃部署最高2GW的MI450系列GPU，首批1GW預計於2027年上半年開始部署。