Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

Claude新模型將採用統計文字浮水印

放在放大鏡下的浮水印文件 / TokenPost.ai (macro)

Anthropic將為新推出的Claude模型生成文字加入統計浮水印,並計畫在未來數個月內,分階段套用至2026年8月2日前推出的既有模型。

Anthropic於8月14日在官方說明中表示,未來推出的Claude模型將在全球套用浮水印,原因是難以穩定區隔不同地區的適用機制。

這項浮水印不是在文字中加入人眼可讀的標記或隱藏字元,而是讓Claude在選擇下一個詞彙時,調整語意差異不大的候選詞選擇方式,留下統計模式。

設計目標是在不實質影響讀者所見句子品質與可讀性的情況下完成標記。浮水印不包含可識別使用者、組織或對話內容的資訊。

即使確認存在浮水印,也只能顯示Claude可能參與了內容的撰寫或處理,無法判斷內容是由人類撰寫,還是由其他人工智慧生成。

這項技術以Google DeepMind於2024年在《Nature》研究提出的SynthID-Text方式為基礎。當多個候選詞的語意差異不大時,系統會調整代幣選擇方式,留下統計簽名。

《Nature》論文指出,利用約2000萬筆Gemini回應進行的實驗中,套用浮水印與否造成的使用者評價差異,在統計上並不顯著。不過,這項結果是對Google模型及其實驗環境的驗證,不能據此斷定Claude的所有模型、語言與使用情境都會出現相同結果。

在短句、需要精確回答的事實性句子或程式碼中,由於候選選項有限,浮水印偵測可靠度可能較低。部分編輯可能仍會留下痕跡,但若重新改寫整段文字,浮水印強度可能減弱。

在翻譯等Claude重新生成整段句子的工作中,將套用浮水印。至於全面改寫或翻譯後是否仍能維持偵測能力,則有待實際使用環境確認。

此次導入的制度背景包括歐盟(EU)《人工智慧法案》。歐盟執委會在AI Act透明度規範說明中表示,為AI生成或修改的內容加入機器可讀標記的透明度義務,將自8月2日起適用。

相關實務規範具有自願性,但AI生成內容的標示義務本身將以法律義務方式運作。2026年8月2日前推出的Claude模型適用寬限期,Anthropic表示也計畫為這些模型加入浮水印。

Anthropic在9月1日的更新中表示,將以非公開預覽方式提供偵測API。初期對象包括監管機構、執法機關、媒體、事實查核機構、獨立研究機構及教育機構等,但未公布向一般使用者開放API的時間。

偵測API是確認浮水印存在可能性的輔助工具。Anthropic說明,浮水印不是用來判斷著作權、所有權或法律責任的工具。

Anthropic先前曾公開在Claude生成文字中套用浮水印的方式,但當時並未提出已套用至全產品線的正式公告。此次說明則具體化了新模型的套用方式,以及既有模型分階段套用的計畫。

這項措施與其說是虛擬資產市場的即時價格變數,更接近生成式AI內容來源確認方式及產業標準的競爭。後續值得關注的因素包括浮水印偵測準確度、重新改寫及翻譯後的耐久性、偵測API的存取權限,以及不同AI業者標記之間的互通性。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1