新聞 
幣種資訊 
關於我們 
紐約市議會傳喚OpenAI、Google、Meta與Anthropic代表，詢問人工智慧（AI）可能造成的災難風險及安全措施，並討論納入第三方驗證與損害救濟等內容的法案提案。
紐約市議會於10月5日舉行全體議員參與的「全體委員會」（Committee of the Whole）聽證會。市議會官方公告指出，約40名議員出席；OpenAI的Morgan Dwyer、Meta的Shane Cahill、Google的Alice Friend及Anthropic的Logan Graham列為宣誓作證人。市議會議長Julie Menin要求各公司以數據說明AI在最嚴重災難情境下可能造成的風險。
聽證會也討論如何將企業對風險的說明與法律責任規則連結。紐約市議會事先公布的法案提案包括AI系統第三方驗證、可由人員停止系統運作的機制、因繞過安全控制而造成可預見損害時的民事請求權，以及AI安全事故通報。這些內容仍是討論中的提案，並非已施行的規定或定案的責任標準。
涉及第三方驗證的Introduction 2602提案，建議對銷售或部署未經驗證的AI系統者，每件處以2萬5000美元罰款。這項提案罰款尚未實際開徵；市議會公開公告也未確認法案是否表決或通過。
紐約市議會官方公告記載了企業代表說明安全措施，以及Anthropic前研究員Jacob Coxon提出的風險警告。Coxon作證表示，若目前的開發路徑持續，人類失去對AI的控制並走向滅絕的可能性較高。這是Coxon對風險的預測，並非聽證會上經測量或確認的數值。
這場聽證會同時討論企業自願提出的安全承諾，以及透過法律訂定驗證、通報與損害救濟標準的可能性。提案標準的適用範圍與責任規則，仍待立法程序進一步討論。
留言 0