有參議員主張,美國可持續與中國競逐AI,但應為前沿模型的自我改進設下安全護欄。
美國民主黨籍參議員約翰·希肯盧珀(John Hickenlooper)在9月29日的信函中表示:「現在是從警告走向安全護欄的時候了。」他主張在追求創新的同時建立安全標準,而非停止AI開發。
希肯盧珀11月16日(當地時間)在底特律舉行的《財富》500大創新論壇(Fortune 500 Innovation Forum)受訪時,質疑是否應無限制允許AI遞迴式學習及模型自我修改。《財富》(Fortune)在訪談報導中指出,他並不反對美國維持AI競爭力,但擔心系統在預定範圍外自行改變。
遞迴式學習是指AI在學習與開發過程中再次參與,持續提升效能。希肯盧珀的發言著眼於討論這類學習的範圍與安全標準。
他以核武器受到規範、飛機運行前須遵循程序為例,說明前沿AI也需要基本規則;他並未主張AI在法律上等同於這兩個領域。
希肯盧珀在9月的信函中提出多項建議,包括△由獨立第三方評估強大AI模型 △追究明知系統有風險仍部署的企業責任 △要求通報重大事故與漏洞。這些建議將安全討論延伸至模型部署和營運階段。
信函也建議評估AI對就業的影響,並改善教育與職業訓練;此外,希肯盧珀要求加強對先進AI晶片及半導體製造設備的出口限制。
AI自我改進風險與國際合作此前已引發討論。本報曾報導AI自我改進可能帶來的風險警告及國際合作呼籲。此次訪談中,希肯盧珀則表示,美國應在延續AI競爭的同時建立安全護欄。
訪談也談到資料中心對電網的成本分攤。《財富》報導,希肯盧珀主張檢視資料中心周邊的噪音、風險與居民不便,並由資料中心負擔設施所需電網擴建費用。
希肯盧珀在11月9日的聲明中表示,他支持的跨黨派許可改革法案,要求資料中心公平分攤電力成本。該法案也涉及電網與能源計畫的許可改革。
美國參議院11月9日以73票贊成、25票反對,通過讓H.R.2347進入院會審議程序的終止辯論動議。參議院紀錄顯示,這項表決不代表法案已最終通過。
美國參議員傑夫·默克利(Jeff Merkley)在11月9日的聲明中表示:「資料中心應公平分攤其使用資源的成本。」他同時批評,法案可能讓天然氣電廠與天然氣管線更容易興建。
美國參議員譚美·達克沃斯(Tammy Duckworth)同日在聲明中表示,她對法案能否降低家庭開支「抱持懷疑」。參議員對資料中心分攤成本的原則及法案整體影響看法不一。
一篇探討AI研發自動化的論文由22名研究人員參與,提出自動化可能帶來快速的能力提升。研究團隊指出,相關結果仍有相當大的不確定性,並建議政策制定者掌握自動化進展,制定引導或限制風險的措施。
Comment 0