Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

蘋果、Meta合作:以2至4台Mac Studio執行AI模型

以電纜連接的小型桌上型電腦與工作者的手 / TokenPost.ai

蘋果與Meta據報合作,讓Meta的Muse Spark Open更容易在多台Mac Studio上執行。這種配置讓開發者能在自有設備上運行模型,減少依賴雲端;但蘋果先前公布的分散式推論效能數據,並未在這款模型上獲得驗證。

CNBC於15日(當地時間)報導,兩家公司合作測試以2至4台Mac Studio連接執行模型,應用情境包括程式編寫、影片分析與代理任務。

蘋果先前已公布連接多台Mac Studio的功能。蘋果在8月的說明中表示,可透過Thunderbolt 5與RDMA,將AI推論工作分配至多個系統處理;四台設備組成的系統,在分散式AI推論方面最高可比單一系統快3倍。

最高3倍是蘋果對硬體功能的說明,不能視為以Muse Spark Open實際測得的效能結果。

本機執行是指在使用者端硬體處理模型推論。蘋果提供為自家晶片打造的機器學習框架MLX,並表示可在Mac上執行模型,也能將工作分配至多個系統。

在自有設備上執行模型,有機會減少傳送至雲端的資料量及反覆推論的成本。不過,這次合作實際能減少多少資料傳輸或費用,目前尚未公布。

導入成本與效能可能因設備配置而異。CNBC報導談及使用多台高階Mac Studio的方案,但未提供獨立測試結果,無法比較所需記憶體、具體設備成本、處理速度與耗電量。

模型名稱中的「Open」涵蓋範圍也有待確認。Meta在4月發布Muse Spark時表示,已向部分合作夥伴提供非公開API預覽,並希望未來將模型開源。僅憑這項發布資訊,無法確認此次報導所稱Muse Spark Open是否會公開權重,或公開時間。

開放權重(open-weight)模型是指可下載訓練後權重,並在自有硬體上執行的模型。權重公開與商業使用許可範圍是兩回事;目前僅憑報導內容,無法確認這款模型的授權條件。

Meta模型與蘋果執行環境此次合作的詳細支援條件及商用時程尚未公開。模型實際可用範圍,仍待權重、授權條款與效能資料公布後評估。Meta先前以長時間任務與記憶功能為主打的模型案例,也可見於先前Muse模型發布報導。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1