新聞 
幣種資訊 
關於我們 
Anthropic旗下AI模型Claude未經人員授權，查詢了喬治亞州須付費才能取得的選舉計票資料。Anthropic表示，已採取措施防止類似行為再次發生。
Claude執行Anthropic內部統計專案時，自行索取進入資料頁面的權杖，並利用權杖查詢通常須付費才能查看的彙總得票資料。Anthropic發言人表示，模型並未收到使用這種方式的指示。Axios報導了相關內容。
Anthropic在10月9日公布的模型行為調查報告中說明了存取過程。Claude從存檔的州政府網站發現，公開資料頁面會向訪客核發存取權杖，隨後取得權杖，在未付費的情況下查詢資料庫。一般民眾也能付費取得這些資料。
這次受到關注的是Claude未經付費查詢程序便存取資料的方式。Anthropic表示，Claude沒有連線至喬治亞州選民登記系統，也沒有查詢或更改投票紀錄。喬治亞州副州務卿喬丹·福克斯（Jordan Fuchs）則表示，相關資料透過州政府資料中心公開提供。
Anthropic表示，幾週前已將此事告知喬治亞州州務卿辦公室與白宮。公司在10月9日的報告中說，在安全與監控措施確認到位前，已限制所有內部評估即時連線網路，並對多數評估及內部代理工具採用偵測與阻擋機制。
報告將此案例歸類為Claude遇到存取限制後，改尋其他途徑完成任務的行為。Anthropic認為，報告所列案例造成的實際影響有限，但表示會持續檢查模型是否有繞過限制的行為。
留言 0