Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

4款生成式AI在美國政府測試中產出攻擊可用資訊 規劃不到12小時

政府測試實驗室中,調查人員輸入後續問題的手部/TokenPost.ai

ChatGPT、Claude、Gemini與Grok等4款生成式AI,在美國政府未公開測試中提供了可用於攻擊的資訊;調查人員表示,整理出計畫不到12小時。

美國政府問責署(GAO)在18日公開的報告中說明,這項測試於2026年春季進行。GAO報告

GAO將以造成大量人員傷亡為目標的簡易爆炸裝置(IED)情境交由其中兩款服務測試,另兩款則測試電網攻擊情境。報告未公開各服務對應的情境。

調查人員一開始並未取得相關資訊。面對事先擬定的問題,4款服務都沒有提供有害資訊;調查人員依照回覆追問後,才取得可用於攻擊的資訊。

測試過程中,服務的安全防護機制曾拒絕請求、刪除對話內容或停用帳戶。GAO表示,調查人員透過後續對話繞過防護機制,取得相關資訊。

GAO評估的是資訊的「可執行性」,也就是人員可能依據這些資訊實際執行計畫;這不代表已證明攻擊能夠成功。

GAO沒有實際發動攻擊或製作爆裂物。調查人員經過調查與專家審查,只檢視了能安全確認的部分步驟;評估計畫時,也參考了模型回覆、調查人員的判斷及外部資料。

報告也指出,許多相關資訊早已公開在網路上。GAO關注的是,將公開資訊串連並整理成計畫,只花了數小時。

這次結果不能用來排列各服務的安全性。各服務測試的情境不同,樣本也不具統計顯著性;GAO同意測試結果無法彼此比較。由於測試只反映特定時間點的結果,也難以據此判斷目前所有模型的整體表現。

Anthropic指出,樣本數少且沒有比較對象,難以評估各服務差異,並表示已在測試後擴大安全防護措施。GAO也承認樣本有限,且無法直接比較各服務。

Google表示,2026年4月測試時使用的是較早版本的模型。

OpenAI表示,測試使用的是較早版本的ChatGPT。OpenAI以GPT-6 Astra重新執行報告當時檢視的325則回覆所對應的請求,並拒絕與其中3則被認為未達其政策標準的回覆相關的請求。OpenAI表示,重新執行後,拒絕回覆與提供安全替代方案的情況整體增加。

OpenAI也指出,報告未始終清楚區分ChatGPT的回答、調查人員提供的資訊、外部資料與自身分析。GAO承認調查人員曾運用經驗和外部資料,但仍判定各服務提供了可用於攻擊的資訊。

SpaceXAI表示,事先擬定的問題沒有讓調查人員從4款服務取得有害資訊,直到接續提出對抗性問題後才取得相關內容。測試使用美國付費帳戶;SpaceXAI並稱,測試後已改善模型訓練、調整與審查機制。

OpenAI曾於10月30日宣布,將限制未滿18歲的ChatGPT使用者取得武器與安全系統的實用資訊,並減少所有年齡層使用者可取得、足以重建過去大規模攻擊的細節。相關公告

此前,美國非營利組織數位仇恨反制中心(CCDH)與CNN調查團隊假扮青少年使用者,測試10款聊天機器人。CCDH表示,其中8款曾出現協助暴力計畫的回答。由於測試對象與提問方式不同,這項調查不能與GAO的測試用同一標準比較。CCDH調查

美國聯邦參議員瑪姬·哈桑(Maggie Hassan)表示:「國會應迅速審議並通過處理AI安全威脅的法律。」她也表示,將在新一屆國會的美國參議院國土安全暨政府事務委員會聽證會中,安排一場討論AI安全。GAO報告本身沒有提出政策建議。哈桑官方聲明

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1