OpenAI今年每週對數千至數萬個帳號採取處置,因應未經授權的模型蒸餾活動;對於試圖取得未公開推理資訊的行為,則同步封鎖個別請求並調查關聯帳號網絡。
OpenAI在20日公布的對抗式蒸餾應對說明中表示,今年已在平台上發現多起未授權蒸餾活動,帳號處置速度從今年夏季起大幅加快。
「模型蒸餾」是將一個人工智慧模型的回答或判斷用於訓練另一個模型。OpenAI將未經許可使用自家模型輸出,訓練出功能相似的其他模型,視為未授權蒸餾。
OpenAI表示,這類做法可能只複製模型功能,卻沒有延續原模型的安全防護。該公司也指出,尋找軟體漏洞的能力若轉移至防護較弱的模型,可能被用於攻擊。
OpenAI以相同的預訓練模型分成兩組,測試推理資訊對訓練的影響。一組取得使用者可見的最終回答、推理摘要及工具使用紀錄;另一組則取得完整推理過程。
完成監督式微調後,學習完整推理過程的模型在資安測試中整體表現較佳。再經過強化學習後,在測試允許的最高運算量條件下,這組模型仍占優勢;運算量較低時,僅學習摘要的模型表現則較好。
OpenAI表示,這項結果顯示,保護未公開推理資訊可能有助於限制資安能力轉移至其他模型。這是以相同預訓練模型為基礎、比較不同推理資訊的內部實驗。
封鎖個別請求的防禦措施及推理資訊擷取測試結果,與本報先前報導的內容相呼應。此次公告也公布了內部實驗結果,以及針對組織性行動所採取的帳號處置規模。
OpenAI表示,偵測到組織性活動時,會調查相關帳號網絡並對關聯帳號採取處置,也會將入侵指標分享給其他模型業者。
OpenAI表示,支持讓政府得以辨識並制裁非法擷取AI功能的外國行為者之法案。該公司也向國會表達對Chip Security Act、AI OVERWATCH Act及MATCH Act的支持。
OpenAI表示,目前也正將部分改良後的防禦措施導入GPT-6 Astra。
Comment 0