Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

新增8小時完成窗口,OpenAI API模型代幣費用較Standard低40%

在筆記型電腦上選擇背景處理窗口的手/TokenPost.ai

OpenAI在Responses API背景模式中新增2小時與8小時完成窗口,選擇8小時窗口時,模型代幣費用較Standard處理低40%。

OpenAI於17日在開發者變更記錄中表示,這項功能已以公開測試版推出,詳細條件載於背景模式文件。

完成窗口是指API收到請求後,處理初始回應的目標時間。所選時間不代表服務等級保證的截止時間,而是設定初始回應處理時程的基準。

預設選項soonest不提供折扣,以最快處理為目標。2h窗口的模型代幣費用較Standard低30%,8h窗口則低40%。

折扣窗口適用於GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra與GPT-6 Luna,四款模型都屬於這次公開測試版的適用範圍。

這項功能鎖定文件審查、夜間分析等不必立即取得結果的工作。在多階段代理執行中,開發者也能選擇延長處理時間,以降低代幣成本。

使用2小時或8小時窗口時,必須啟用背景處理並選擇Standard處理。折扣窗口不支援串流輸出,開發者需透過webhook或查詢回應ID確認處理狀態。

後續請求可重複使用相同的continuation_id。OpenAI說明,若沿用相同的完成窗口、continuation_id、模型與專案,相關請求可能獲得較高的佇列優先順序,符合資格的後續請求也可套用折扣。

從GPT-6.2 Astra與GPT-6.2 Sol開始,不再提供Flex處理方式。若要降低長時間工作的成本,需改用2小時或8小時背景窗口。

2h與8h請求會和Batch API工作共用Batch/Background專用速率限制。輸入代幣會在提交請求時納入限額計算,預設選項soonest則使用一般請求與代幣限額。

同時提交大規模工作時,需要採取不同於一般請求的限額管理方式,因此應一併確認並發提交量與剩餘限額。

即使關閉儲存選項或使用Zero Data Retention,背景模式仍可能為傳遞結果而暫時儲存回應資料。文件說明,這種情況下儲存的請求內容會經過加密。

這次完成窗口僅提供給Responses API背景模式,並非適用於Chat Completions一般請求的折扣功能。需要即時回應的應用程式可選擇soonest,夜間文件分析則可選擇2h或8h。

OpenAI的API價格調整並非首次。本報先前曾報導GPT-6 Luna的API輸入單價下調;這次變更的不同之處,在於按處理等待時間區分折扣幅度,而不是調整各模型的固定單價。

使用公開測試版的開發者需一併確認完成窗口、是否採用Standard處理、串流限制與共用速率限額。現行文件提供的選項,是在API請求階段調整回應速度與成本之間的取捨。

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1