放緩AI開發是否違法?OpenAI徵詢美國國會意見

OpenAI已向美國國會提出詢問,與其他人工智慧(AI)企業協調放緩開發速度的做法,是否觸犯美國反壟斷法。人工智慧安全合作與限制競爭行為之間該如何劃界,成為爭論焦點。

OpenAI在過去幾週,向美國國會相關人士要求,針對業界整體放緩「前沿AI」(frontier AI)開發的協議是否合法,提供明確指引。OpenAI在相關報導刊出前未回應置評請求,此事經由Wired(《連線》雜誌)報導才為外界所知。

討論背景與OpenAI首席科學家雅庫布·帕喬基(Jakub Pachocki)6日公開的一篇文章有關。帕喬基在OpenAI官方文章中表示,目前沒有任何研究機構已解決「對齊」與監控問題,足以讓人工智慧系統以最高速度擴展。

帕喬基提到人工智慧可能出現「輔助自身開發流程」的「遞迴式自我改進」,並表示「若有必要,將需要協調放緩未來的開發速度」。他也表示,期待在共同安全標準建立之前,自願性放緩開發能成為業界普遍做法。

這並不代表OpenAI已決定停止人工智慧開發。帕喬基的主張聚焦在,安全標準與國際協調機制建立之前,企業應該能夠自行調整開發速度。

法律爭議在於,企業間的協議可能被解讀為限制競爭。若競爭對手共同放緩產品上市或模型開發,恐被認定為限制產量或壓抑市場競爭。

相對地,針對網路安全漏洞、模型遭竊、以及高風險人工智慧遭濫用等問題所進行的資訊共享,則有可能被視為出於國家安全目的的合作。問題在於,為安全所做的共同應對,與競爭對手之間協調開發時程,是否能被視為同一種行為。

美國國會也已提出法案,有限度允許相關合作。共和黨參議員吉姆·班克斯(Jim Banks)與民主黨參議員亞當·希夫(Adam Schiff)於7月23日提出《敵對威脅與安全風險合作法》。希夫與班克斯辦公室在法案說明中表示,該法案允許企業就因應外國模型竊取、網路攻擊、生化與核武及攻擊性網路威脅、以及喪失控制風險等議題進行資訊共享與防禦協調。

該法案不允許價格操縱、市場分割、壟斷化、抵制等損害競爭的行為,且針對放緩或限制高風險人工智慧模型部署的協調行動,要求須事先以書面通知。

該法案目前仍送交參眾兩院司法委員會審查,尚未完成立法程序。因此,法案本身並未全面允許企業間協調放緩開發速度。

OpenAI於9日在另一篇政策文章中表示,希望與國會共同建立「以能力為基準的國家人工智慧安全法規」。內容包括與其他前沿研究機構共同推動自願性安全標準,並建立何時應放緩或中止開發的國際標準。OpenAI的政策文章中並未提出具體的法律協議方案。

業界反應不一。前OpenAI共同創辦人、現任Thinking Machines首席科學家約翰·舒爾曼(John Schulman)表示,以反壟斷法為由迴避安全合作是「藉口」,他說明反壟斷法僅禁止特定協議,並非禁止共同提案。

另一方面,人工智慧社群中也出現不同聲音,有人認為考量與中國的競爭關係,美國企業難以單方面放緩開發;也有人認為一旦發生安全事故,反而可能招致更嚴格的監管。這些反應不能被視為法律解釋或OpenAI的官方立場。

這次討論的核心並非人工智慧是否應該放緩開發,而是安全合作與限制競爭之間的界線,該以法律劃定到何種程度。OpenAI與其他競爭企業是否已實際展開共同放緩開發的協議、美國國會是否已向OpenAI提供正式法律解釋,目前均未獲得證實。