Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

浮水印移除工具數天暴紅 Claude標記可信度受考驗

筆記型電腦螢幕上的檔案中繼資料設定 / TokenPost.ai (mono)

開發者為了移除Anthropic旗下Claude生成內容中的浮水印,推出相關工具,沒想到上線短短數天就迅速擴散開來。隨著歐盟(EU)《AI法案》的透明度義務正式上路,話題焦點也從「如何標記」轉向「標記能不能被驗證」。

根據Anthropic支援文件的說明,2026年8月2日以後發布的Claude模型,從上市那一刻起,就會在生成的文字中嵌入機器可讀的「浮水印」,並在支援檔案裡附上以數位簽章為基礎的「來源中繼資料」。適用範圍涵蓋Claude平台API、Claude、Claude Code、Claude Cowork、Claude Tag,以及亞馬遜雲端服務(AWS)、Google雲端(Google Cloud)、微軟Foundry(Microsoft Foundry)等平台。

歐盟執委會表示,《AI法案》第50條的透明度規定自2026年8月2日起正式適用。條文要求生成式AI產出的合成音訊、圖片、影片與文字,都必須附上機器可辨識的標示。若文字內容屬於公共利益性質、且未經人工審閱或編輯把關,發布時就必須揭露這是AI生成的內容。

這項措施,是本站先前報導「Claude生成文字將加入隱形浮水印」後續發展的延伸。當時討論的重點,是各大AI公司是否能依規定備妥標記系統;如今制度正式上路,爭論的焦點已經轉移到這套標記究竟有多「牢固」。

科技媒體BleepingComputer報導,Anthropic公布這項政策後,浮水印移除工具與相關網路服務數量迅速增加,其中一個GitHub專案更累積超過4500顆星星。不過報導也指出,由於Anthropic並未公開偵測器與技術細節,外界很難獨立驗證這些工具是否真的能移除浮水印。

也有分析認為,目前技術上真正能移除的對象,其實僅限於隱藏字元或檔案中繼資料。如果真正的文字浮水印是嵌在「用字選擇模式」裡,想要真正發揮效果,就必須大幅改寫句子才行。換句話說,單純的「刪除工具」和真正能規避偵測,兩者之間還有不小的落差。

浮水印並不是讓人一眼就能看到的標籤。以文字來說,訊號是藏在生成過程中的「代幣(token)選擇模式」裡;以檔案來說,則是用經過簽章的中繼資料,記錄生成與處理的歷程。檔案的來源中繼資料做法,與記錄內容出處和修改歷程的「C2PA標準」相互呼應。

Anthropic也在文件中坦承浮水印有其侷限。公司說明,這個標記只是顯示內容經過Claude處理的訊號,並不能作為完整的來源證明。如果內容經過大幅編輯、重新改寫、翻譯,或文字本身非常短,偵測訊號都可能因此消失。

這也呼應了本站先前報導「霍斯金森(Charles Hoskinson)公開處理Claude標記的開源工具」的脈絡。有浮水印,不代表就能立刻鎖定作者或最終責任歸屬;反過來說,沒有浮水印,也不代表內容就與AI無關。

學術期刊《Nature》報導,研究人員普遍認為,這項措施很難有效減少學術圈低品質AI生成內容的擴散。主要的反對理由在於,文字浮水印的結構本來就比圖片或影片更脆弱。

使用者的反應也出現分歧。《Business Insider》報導,部分Claude用戶已經以浮水印為由取消訂閱。不過Anthropic回應表示,並未觀察到用戶流失明顯增加。

對開發者而言,在沒有公開偵測工具的情況下,很難驗證這些移除工具實際效果如何。標榜「浮水印移除」的服務越多,行銷話術跑在真實技術效果前面的風險也就越大。

這場爭論,對台灣的使用者與企業來說,也不只是海外法規議題那麼簡單。凡是向歐盟用戶提供AI服務、或需要遵守歐盟規定的企業,都必須同時檢視內容標記與事後驗證機制是否到位。尤其翻譯與改寫過程可能削弱偵測訊號這一點,直接牽動中文內容的營運方式。

這起爭議顯示,AI公司因應法規的做法,直接牽動外界對技術的信任程度。浮水印或許能作為法規遵循的訊號,但如果沒有公開的偵測工具與驗證流程配套,使用者與開發者恐怕仍會持續質疑這套標記到底有多少實際效力。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1