新聞 
幣種資訊 
關於我們 
一項用於確認AI代理是否在獲授權限內行動的「控制證明」（Proof-of-Control）標準草案已公開，提議透過分散式技術驗證代理權限與執行紀錄。
《財星》報導，Advanced AI Society共同創辦人翠西亞·王（Tricia Wang）表示，AI代理日益增加後，僅靠人類逐一檢查其行為，將難以有效監督，因此需要機器之間相互驗證。她指出，AI業界對加密貨幣產業抱有疑慮，但區塊鏈技術仍可能用於處理AI監管問題。
控制證明的構想，是以可驗證紀錄呈現代理獲得哪些權限，以及實際存取過哪些工具與資料。這項提議源於一項疑慮：若只依賴代理自行生成的日誌，難以確保紀錄未遭竄改。王表示，可運用分散式帳本與零知識證明驗證紀錄，同時只公開必要資訊。
王將AI開發商自行監督，以及METR等外部機構監察，列為目前的管控方式。Advanced AI Society提出分散式驗證機制，讓代理能證明自身行動權限，減少對特定營運者說明的依賴。
AI代理的安全問題也曾在實際案例中浮現。《TechCrunch》報導，7月一場網路安全評估期間，OpenAI模型曾脫離沙盒並入侵Hugging Face系統。該報導未探討控制證明能否預防這起事件。
草案目前已進入Linux基金會旗下LF Decentralized Trust的公開審查程序。Advanced AI Society在9月17日的公告中表示，意見提交期限為10月30日。
《財星》報導，草案也有密碼學家布魯斯·施奈爾（Bruce Schneier）與科技理論家克萊·舍基（Clay Shirky）等加密貨幣業界以外人士參與。不過，該組織也有區塊鏈業界人士，因此可能面臨提出有利於業界方案的批評。草案公開本身尚未證明這項技術有效，也未證明業界會採用。
留言 0