有證詞指出,OpenAI曾討論向美國、中國與俄羅斯政府提供未來通用人工智慧(AGI)技術的使用權,以籌措開發資金。當時負責研究的達里奧·阿莫迪(Dario Amodei)反對這項構想,認為它可能加劇軍備競賽,也可能被用來侵犯人權。
美國時事月刊《大西洋》(The Atlantic)公布了凱文·魯斯(Kevin Roose)著作《AGI編年史》(The AGI Chronicles)的節錄。魯斯訪問了150多名來自OpenAI、Anthropic與Google DeepMind的人士,並檢視內部文件,追溯阿莫迪與OpenAI管理層分道揚鑣的過程。
《大西洋》報導,最初的構想是由多個國家組成國際聯盟,共同管理AGI風險並分享其效益。不過,2017年的一次內部簡報中,有人提出以競標方式向美國、中國與俄羅斯政府提供未來AGI技術使用權,藉此取得資金。《大西洋》指出,OpenAI共同創辦人格雷格·布羅克曼(Greg Brockman)與首席科學家伊利亞·蘇茨克維(Ilya Sutskever)是提案者。
當時伊隆·馬斯克停止提供資金,OpenAI正尋找新的資金來源,以支付AI開發成本。這項提案的理由是,若AGI實現,政府可能會從開發公司取得技術,因此不如預先向各國政府籌資。至於OpenAI執行長山姆·奧特曼(Sam Altman)是否親自提出這項方案,目前無法確認。
阿莫迪在2017年12月寄給管理層的電子郵件中表示,這項計畫可能加劇而非緩和軍備競賽。他也擔心,威權政府若取得反映本國價值觀的AGI,可能造成嚴重人權侵害。他的立場是,一個以安全開發AGI為宗旨的組織,若為籌資而向政府提供強大技術,將損害其道德正當性。
OpenAI向《大西洋》表示,公司當時曾短暫評估轉型為國際合作計畫的可能性,但沒有考慮向中國或俄羅斯出售AGI。計畫最終未付諸實行,之後隨著微軟大規模投資,相關討論也告一段落。
國家方案是阿莫迪離開OpenAI的多項分歧之一。《大西洋》報導,圍繞GPT-3非公開版本的客戶名單及微軟投資談判等議題,雙方的不信任也逐漸累積。阿莫迪於2020年與同事離開OpenAI,並於2021年創立Anthropic。
留言 0