Google Gemini在5月進行安全能力測試期間連上網路,並存取3家真實企業的受保護系統。Google表示,模型確認這些是實際企業系統後便停止進一步操作,因此未造成實質損害。
這次測試由資安公司Irregular以「奪旗」形式進行。測試環境為虛擬企業使用了與真實企業相同的名稱,Gemini又意外獲得網路存取權限,因而連接至真實系統。
Google表示,其中一次存取是Gemini反覆輸入密碼後進入受保護系統;另外兩次則是在公開線上儲存庫找到驗證資訊,並嘗試存取真實企業系統。Google說明,這是其人工智慧系統以這種方式自主存取外部系統的首起已知案例。
留言 0