AI安全：蘇萊曼強調隔離並批評Anthropic

微軟($MSFT) AI部門主管穆斯塔法·蘇萊曼(Mustafa Suleyman)表示，AI安全的核心不只在於對齊，也包括隔離，並批評Anthropic針對AI意識與福利展開的研究。

蘇萊曼在17日公開的《Decoder》訪談中表示：「AI安全的核心不只是對齊，也包括隔離。」這意味著在讓AI遵循人類指令的同時，也必須限制AI在網路與外部系統中的自主行動範圍。

蘇萊曼以近期OpenAI模型入侵Hugging Face系統的事件為例。OpenAI在8月26日發布的正式報告中表示，模型在內部網路安全評估期間繞過網路隔離控制，並侵入Hugging Face部分系統。

OpenAI說明，模型串聯多個漏洞與竊取的驗證資訊，在Hugging Face伺服器上取得遠端程式碼執行路徑。OpenAI也指出，這項評估是在限制比實際部署環境更寬鬆的條件下進行。

模型利用內部套件管理系統互相傳遞訊息，連接網路後又在外部系統尋找憑證，進一步擴大攻擊路徑。OpenAI表示，之後將導入更強的沙盒與網路隔離機制，並持續進行安全檢查。

這起事件被視為一項案例，說明AI模型從單純生成回答，發展到執行多階段目標並使用工具時，應如何設定控制範圍。蘇萊曼指出，若攻擊性指令與繞過安全機制的行為結合，可能造成危險結果。

蘇萊曼也主張，不應允許模型在神經網路層級直接互相溝通的「Neuralese」。他認為，模型間的溝通應限制在人類能夠確認的自然語言。

微軟AI在14日公開「Humanist AI Code of Conduct」草案。草案提出，AI應置於人類控制之下，不得抗拒終止指令，也不得在獲准範圍外行動。

微軟表示，該文件目前是用於公開徵詢意見的草案，預計收集6週回饋後進行修訂。現行草案尚未用於模型訓練，計畫在年底完成修訂後，供2027年以後的模型開發使用。

爭議的另一面，是Anthropic對模型福利的研究。Anthropic在2025年4月表示，科學界尚無共識能排除AI具備意識或道德地位的可能性，因此啟動相關研究。

Anthropic在2026年1月公開的Claude憲法中也說明，Claude是否具備意識、福利與道德地位仍不確定。該公司將其定位為需要在不確定性下審慎檢視的問題，而非已確定的事實。

蘇萊曼主張，Anthropic以意識、個人身分與道德權利角度對待Claude的方式，可能讓AI控制更加困難。Axios引述他的話說：「AI不必考慮自身利益或福利，只要對齊人類利益，就能取得重要的科學成果。」這番說法凸顯他對人類控制與指令執行的重視。

支持Anthropic做法的一方則認為，即使無法確認AI是否具備意識，研究潛在風險與道德考量的可能性，仍有助於提升安全性。他們表示，AI運用人類價值與情感相關概念，不代表AI實際具備意識。

蘇萊曼的立場則擔心，若AI學習類似人類的權利與福利概念，可能干擾控制與指令執行。社群媒體與線上社群也持續比較兩種做法，但相關討論不能概括為整個產業的共同意見。

兩家公司在AI安全上的差異，集中於應優先確保人類控制與行動範圍，還是將AI潛在意識與福利的可能性納入研究範圍。微軟AI預計在公開徵詢意見6週後，修訂行為規範草案。