Anthropic公開AI回答驗證零知識證明原型

Anthropic公開零知識證明系統「FlashProve」，可驗證回答是否由指定的AI模型產生。這是一項研究原型，設計上無須向使用者公開模型權重，也能驗證回答來源。

Anthropic於2日（當地時間）公開執行程式碼、技術報告，以及驗證數學安全性命題的Lean證明。相關內容收錄於Anthropic官方公告。

系統分兩個階段運作。首先，模型提供者公開對應特定權重的加密指紋；模型生成回答時，則建立一份證明文件，證明運算結果來自該模型。

使用者可根據公開指紋、問題與回答驗證證明。即使不重新執行模型或下載權重，也能判斷回答是否由指定模型運算產生。

Anthropic指出，單看回答文字很難確認實際執行的是哪個模型。中間服務即使把請求轉送給其他模型，或更改回答中的詞元，單憑輸出內容也不容易察覺。

FlashProve將zkSNARK這種加密證明技術用於推論驗證。Anthropic表示，這類技術也應用於Starknet等區塊鏈擴容網路；FlashProve驗證的則不是交易，而是AI模型的運算結果。

效能測試採用Meta的Llama 4 Maverick，這是一款擁有4,000億個參數的混合專家模型。測試將權重量化為4位元，並使用長度為1,024個詞元的上下文。

Anthropic表示，使用24核心CPU與1張H100 GPU，一次處理24個請求時，生成證明約需223秒。在這項測試中，上下文處理速度約為每秒110個詞元。

每個請求的證明檔案約為19MB。不過，一份證明驗證的是1,024個詞元上下文中的單一輸出詞元，而非整段回答。因此，每秒110個詞元不代表可以用這個速度驗證完整回答。

驗證證明不需要GPU。Anthropic測試顯示，使用CPU的24個執行緒約需17秒，單一執行緒則約需21秒。

生成證明所需的GPU時間長於一般推論。Anthropic表示，與使用vLLM處理相同模型的測試相比，FlashProve生成證明約耗時70至95倍。

這項技術驗證的是回答是否來自指定模型的運算，無法證明回答是否屬實、準確或有用。

目前系統適用於最長1,024個詞元上下文中的整數運算，以及依照固定方式選擇詞元的情況。它會隱藏權重，但不會隱藏模型架構；驗證範圍也不涵蓋對話服務中的長上下文或完整回答。

Anthropic已使用Lean將安全性命題形式化，但未保證數學規格、論文與快速執行程式碼完全一致。因此，僅憑Lean證明，不能認定實際執行程式碼的所有行為都已獲得驗證。

Anthropic將程式碼儲存庫標示為不會維護的研究成果。此次公開仍屬研究階段，展示的是在特定測試條件下驗證部分模型輸出的方法與測量結果。