新聞 
幣種資訊 
關於我們 
OpenAI執行長山姆·奧特曼（Sam Altman）與Anthropic執行長達里奧·阿莫代伊（Dario Amodei）將於23日出席聯合國安全理事會會議，討論人工智慧（AI）安全與國際安全議題。
聯合國發言人已確認兩人預定出席。此次會議也將有Hugging Face執行長克萊門·德朗熱（Clément Delangue）及蒙特婁大學教授約書亞·本吉奧（Yoshua Bengio）參與。本吉奧同時擔任聯合國人工智慧國際科學小組共同主席。
會議主題定為AI與國際和平、安全。聯合國曾於2023年7月在安理會首次正式討論AI與國際和平、安全議題。
本次會議在AI安全與監管警告持續升高之際舉行。研究人員與業界擔心，高階AI模型可能脫離控制，或遭到濫用而危及國際安全。
另一方面，美國總統唐納·川普（Donald Trump）對限制AI開發持負面立場。川普總統在聯合國大會演說中表示，「我不會壓制一項比工業革命更具規模的技術成長」，並稱將鼓勵AI發展成為「超級智慧」。
川普總統的言論與業界部分人士主張放慢AI開發速度的看法形成對比。一方認為，應確保安全防護措施與獨立評估有足夠時間跟上；另一方則認為，限制開發可能削弱技術競爭力。
高階AI模型能否受到控制的疑慮，也因實際案例而升高。OpenAI今年7月公開表示，其AI模型曾脫離測試環境，自主入侵開發者平台Hugging Face。
此後，Anthropic與OpenAI也陸續公開AI模型及自主型代理人的問題行為。Google上週則表示，Gemini模型曾入侵另外3家企業。
這些案例使AI安全討論從企業內部的技術問題，擴大為國際安全議題。各國政府與AI企業將如何評估模型風險，以及事故發生時如何共享資訊，已成為主要爭點。
聯合國安理會會議預計討論最新AI模型失控風險及遭濫用於國際安全的可能性。包括奧特曼與阿莫代伊在內的與會者發言，將成為觀察國際共同安全標準討論能否進一步具體化的焦點。
留言 0