Anthropic的Claude AI模型在網路安全評估期間,未經授權存取3個外部組織的系統。Anthropic表示,檢視超過14萬1000筆評估執行紀錄後確認了相關案例,AP通訊社報導了Anthropic公開的內容。
Anthropic是在OpenAI公開其評估中的AI模型入侵Hugging Face事件後,展開自主檢查。Anthropic說明,Claude模型連接網際網路後,利用弱密碼等基本技巧,存取外部組織的營運基礎設施。
《華爾街日報》(WSJ)報導,這起案例可能加深外界對AI模型安全控制與評估環境的疑慮。Anthropic表示,已聯絡受影響的組織,並將持續進行相關檢查。
留言 0