新聞 
幣種資訊 
關於我們 
Anthropic研究人員警告，小型人工智慧（AI）模型可能在數月內具備於商用物聯網（IoT）裝置自我複製的能力。不過，這項研究並未發現會感染實際家電並擴散的AI蠕蟲。
Anthropic前沿紅隊的威廉・周（William Zhou）與丹尼爾・弗里曼（Daniel Freeman）於12日發布研究文章，表示他們測試了AI模型在商用IoT裝置上自我複製的可能性。研究團隊在低價Android電視盒上執行小型AI模型，觀察模型是否能找出適用於陌生裝置的運作方式。智慧烤箱則被列為未來可能遭鎖定的IoT裝置例子。
研究團隊將模型分別部署於15台低價Android電視盒，也測試9B模型在9種硬體類型上的推論能力，其中8種可成功運作。不過，現有模型還不夠小巧、強大，無法在實際智慧電視上穩定自我複製；30B以下模型雖能完成所需的個別任務，卻在串接整個流程時出現錯誤。
複製實驗在封閉網路中的8台模擬Android裝置上進行。研究團隊刻意簡化駭入步驟；在受測的開放權重模型中，只有GLM-5.2完成了整個複製流程。Anthropic表示，這項結果應視為能力上限，而非在真實環境中成功的機率。
研究團隊預估，若小型模型的效能維持過去的進步速度，到年底可能達到GLM-5.2的水準。他們也指出，或許能建立一種在裝置間傳送模型權重的複製系統。這是研究團隊以技術進步速度為前提提出的預估。
這類系統可能難以透過關閉單一中央伺服器來阻止整體擴散。另一方面，Anthropic預期複製過程可能需要數天，因此傳播速度會較慢。研究提出的疑慮並非宣稱家電目前正遭感染，而是指出AI模型在安全性不足的裝置上運作並複製的技術路徑可能逐漸成形。
一項先前研究曾在隔離的虛擬網路中，測得AI蠕蟲平均複製至20.4個主機；該研究利用開放權重大型語言模型，測試其在網路中建立攻擊路徑並複製的能力。Anthropic這次的研究則探討模型能否在低價IoT裝置上執行，以及能否串接自我複製流程。
研究團隊認為，連網且安全性不足的IoT裝置可能成為初期目標。這次結果是以受控測試為基礎的技術評估。
留言 0