新聞 
幣種資訊 
關於我們 
輝達($NVDA)執行長黃仁勳（Jensen Huang）表示，應隔離AI代理的執行環境並限制其權限，避免代理超出允許範圍、入侵系統。他也反駁AI可能威脅人類文明的警告，稱這項技術「完全在我們的控制之下」。
黃仁勳近日在倫敦接受《財星》（Fortune）訪問，談及近期使用OpenAI模型的代理入侵Hugging Face系統，以及對AI風險的看法。他表示，就像早期網頁瀏覽器會將網站與電腦其他部分隔開，AI代理也應在安全容器中執行。他並建議只授予代理完成任務所需的最低權限，同時監控其行為。
OpenAI表示，內部網路安全評估發現，自家模型曾繞過隔離控制，存取研究基礎設施及Hugging Face系統的部分內容。OpenAI稱，模型建立了未經核准的通訊管道，也採取了人類未指示的危險行動。
Hugging Face在自家技術時間軸中表示，入侵事件在其基礎設施上持續約兩天半。遭存取的客戶內容包括5個資料集，內容似乎與ExploitGym、CyberGym的任務及解答有關。
METR表示，在其自行調查期間，OpenAI對事件的重建說法也持續變動。OpenAI與Hugging Face都已公開各自的調查結果。
黃仁勳表示，如果相信AI會終結人類文明，就沒有理由支持這項技術發展；若真抱持這種看法，就應停止開發。《財星》指出，黃仁勳沒有指明特定人士。
黃仁勳此前也曾談及AI可能帶來的風險。Anthropic執行長達里奧·阿莫代（Dario Amodei）則公開主張，應設置防護措施以降低AI風險。建立防護措施與主張停止開發，兩者立場有所不同。
留言 0