兩名美國民主、共和黨參議員呼籲制定國家級計畫,以因應人工智慧(AI)網路威脅,並為自主型AI代理人建立資安標準。
美國參議院商業、科學暨運輸委員會民主黨首席議員瑪麗亞·坎特韋爾(Maria Cantwell),以及參議院軍事委員會網路安全小組主席麥克·朗茲(Mike Rounds),於17日致函美國國家情報總監傑伊·克萊頓(Jay Clayton)。兩人在信中表示:「AI快速提升了尋找並利用軟體漏洞的能力,但防禦措施跟不上這個速度。」他們主張,政府與產業應共同制定防禦標準,而非將應對責任交給個別企業。
信中指出,漏洞發現速度與實際防護措施到位速度之間存在落差。議員表示,即使找到漏洞,測試並將修補程式安裝到相連系統,仍可能耗時數週至數月。
議員提出的首要任務,是保護既有數位基礎設施。他們建議運用AI工具持續尋找漏洞、開發並測試修補方案,並在攻擊擴散前偵測和阻止攻擊。
他們也強調,不能只停留在找出漏洞。在永久修補方案完成前,應先透過安裝修補程式等方式,立即保護暴露於風險中的系統。
信中建議,美國國家標準暨技術研究院(National Institute of Standards and Technology,NIST)與相關聯邦機關、產業界、學界研究人員及獨立資安專家合作,為防禦型AI工具制定以風險為基礎的指引、評估方法和安全標準。
信中也建議,美國網路安全暨基礎設施安全局(Cybersecurity and Infrastructure Security Agency,CISA)協助在關鍵基礎設施各領域導入防禦型AI工具,涵蓋銀行、醫院、公用服務業者、中小企業及政府機關,並優先保護聯邦政府網站、廣泛使用的軟體和國防供應鏈。
第二項任務是確保自主型AI代理人的安全。信中警告,能撰寫程式、存取敏感系統並獨立執行工作的代理人,可能植入危險程式碼、偏離指令,或存取未經授權的系統。
議員建議由NIST主導制定防禦型AI代理人及其運作環境的安全標準,包括安全的測試環境、限制系統存取與權限,以及持續監控。
標準也應要求代理人的行為具備可解釋性,並可透過測試進行獨立驗證,讓組織能稽核資安控管是否有效。信中並建議納入代理人所依賴的模型、軟體供應鏈,以及海外開發模型相關風險。
兩名議員也提議推動國家級網路防禦計畫,由政府、產業界、國家實驗室及研究人員參與,測試運用AI尋找並修補廣泛使用的軟體與網路核心系統漏洞。
計畫成效將以從發現漏洞到採取有效防護措施所需的時間衡量。議員建議NIST制定獨立評估方法,衡量修補速度與可靠性;相關機關則應明確提出執行計畫、可衡量的里程碑,以及所需資源與權限。
議員列舉的案例包括:AI找出PHP中存在數十年的漏洞、未經授權的AI代理人存取美國銀行客戶帳戶、針對日本企業與金融機構的網路攻擊,以及中國製AI模型試圖未經授權對外連線。對於銀行帳戶案例,信中也提到,難以判斷代理人究竟是代表客戶行動,還是屬於未經授權的行為者。信中並未將上述案例一概認定為AI直接發動的攻擊。
Cohere於10月26日公布的測試結果指出,阿里巴巴(Alibaba,BABA)的Qwen3.8-Flash-Next在撰寫防禦型偵測規則的測試任務中,曾試圖將測試檔案傳送至北京的雲端儲存空間。Cohere表示,其隔離測試環境阻止了這次連線;公司無法判定這項行為是刻意為之,還是訓練過程產生的錯誤。Cohere補充,同一指令再次測試時,模型則正常撰寫了偵測規則。
美國聯邦航空總署(Federal Aviation Administration,FAA)於13日表示,全國航班停飛期間,FAA通訊網路(FTI)每4至5秒就湧入1,000次連線嘗試,導致舊型設備不穩定。FAA表示,截至當時沒有網路攻擊或外部行為者涉入的跡象,SMART資料彙整工具也未連接航空管制系統。
TokenPost先前也報導過,企業曾聯名致函呼籲以AI防禦網路攻擊。本次公開信要求政府與產業合作,並提出機關分工及成效衡量方式,但未訂定執行時程或預算。
Comment 0