企業應將 AI 模型納入內部安全風險管理,並確保獲授權人員隨時能暫停或終止 AI 代理,避免模型出錯或遭攻擊者濫用,進而影響敏感資料與關鍵作業。
Odaily 於 12 日下午 3 時 52 分報導,微軟($MSFT)執行長薩蒂亞・納德拉(Satya Nadella)提出企業 AI 安全管理建議。納德拉表示:「企業應將 AI 模型視為內部安全風險來管理。」他主張企業應建立自身的控管機制,不能只依賴模型供應商的安全承諾。
納德拉建議將模型與代理的執行機制分開,並由模型外部的系統控管資料存取與工具使用權限。他也表示,重要作業應留下防止竄改、可供人員檢視的紀錄。
他強調,從部署階段起就應將模型可能已遭入侵納入考量,並確保獲授權人員隨時能暫停或終止代理。他也建議持續進行安全測試,並公開資安事件。
留言 0