Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

Fireworks AI開放模型推論預設不留存資料;Responses API最多保存30天,批次資料集留至客戶刪除

在筆電畫面上刪除雲端資料集的手 / TokenPost.ai

Fireworks AI表示,開放模型推論的輸入與輸出資料在處理期間只會存在揮發性記憶體中,不會寫入永久儲存空間。Notion AI聊天紀錄出現在Fireworks AI資安事件資料集中後,資料不留存承諾的適用範圍成為焦點。

Fireworks AI執行長Lin Qiao在14日發布的文章中表示:「把檔案上傳到雲端儲存空間,和把數字輸入計算機是兩回事。」

這項比喻指的是,客戶上傳至批次作業的資料集必須自行刪除。一般推論是送出問題後立即取得答案;批次作業則須先上傳資料集,再取得結果。

Fireworks AI的官方資料處理文件指出,開放模型的輸入與生成資料在處理期間只會留在揮發性記憶體,不會寫入永久儲存空間。不過,使用提示快取時,部分輸入及相關資料可能在揮發性記憶體中保留數分鐘;請求 token 數等中繼資料則會為了服務營運而記錄。

Batch API以儲存資料集為前提,因此不在一般推論的零資料保留範圍內。Lin Qiao表示,批次資料會保留至客戶刪除為止。

Responses API在預設設定store=true下,最多會保存對話資料30天。Fireworks AI文件指出,若在請求中設定store=false,即可避免儲存對話資料。

企業客戶可以啟用適用於整個帳戶的零資料保留政策。這項政策預設為關閉;啟用後,系統會拒絕批次作業、資料集上傳等會儲存客戶內容的請求與工作。Fireworks AI帳戶政策文件指出,企業帳戶可以使用這項設定。

即使啟用零資料保留政策,帳戶中已儲存的回應、資料集與上傳模型也不會自動刪除。Fireworks AI在文件中說明,既有資料須另外刪除。

Notion在2日接獲Fireworks AI通知,得知惡意行為者曾存取部分資料。當時分析的資料集據了解包含Notion AI合成測試資料,而非客戶對話。

Notion在3日中斷與Fireworks AI的系統連線,並於隔日刪除存放在Fireworks AI系統中的自家資料。6日接獲客戶資料可能遭存取的通知後,Notion展開進一步調查。

Notion在8日收到的最終資料集中,發現用於Insights功能的Notion AI對話紀錄。Notion表示,受影響的工作區不到整體的1%;多數紀錄未顯示作者或工作區資訊,也不含工具呼叫結果。Notion AI對話紀錄出現在遭入侵資料中一事,本刊先前已報導。Notion的事件說明也列出受影響客戶檢視相關紀錄的方法。

Notion使用Fireworks AI提供Insights功能,以分類員工的AI使用情況,也透過該公司提供開放權重模型。調查期間,Notion暫停Insights功能,並停止透過Fireworks AI提供開放權重模型。

Notion表示,對企業客戶承諾的零資料保留範圍,適用於為生成AI回覆而傳送至外部模型業者的API請求。若為提供聊天紀錄或Insights等功能而儲存請求與回應,則不在承諾範圍內。

為進行Insights分析,Notion曾將已儲存的請求與回應傳送至Fireworks AI。Notion表示,Fireworks AI曾就這項用途在合約中承諾不保留資料,但調查期間發現,資料仍留存在所使用的Fireworks AI端點。

Fireworks AI在9日發布的資安公告中表示,部分客戶資料集與未完成的模型權重受到影響。目前尚未在一般推論、Training SDK與Nexus發現影響,調查仍在進行。兩家公司公開文件均未說明Notion對話紀錄留在Fireworks AI的哪一項儲存功能中;Fireworks AI的資安公告也載有相關資訊。

Fireworks AI表示,調查期間已暫停供批次推論與資料集訓練使用的自助式資料集上傳及下載功能。Notion則引導受影響客戶前往工作區的Security incident review,查看相關紀錄。

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1