OpenAI 在 Responses API 背景模式新增「2 小時」與「8 小時」完成窗口。選擇「8 小時」窗口時,模型 Token 費用比 Standard 處理低 40%。
OpenAI 17 日在開發者變更紀錄中表示,已將這項功能以公開 Beta 形式加入;詳細條件載於背景模式文件。
完成窗口是指 API 收到請求後,預定處理首次回應的時間。它不代表服務等級保證的截止時間,而是用來設定初始回應最晚處理時點的基準。
預設選項「soonest」以最快處理為目標,不提供折扣。「2h」窗口的模型 Token 費用比 Standard 低 30%,「8h」窗口低 40%。
折扣窗口適用於 GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra 與 GPT-6 Luna,4 款模型都在這次公開 Beta 範圍內。
這項功能鎖定文件審閱、夜間分析等不必立即取得結果的工作。對於多階段串接的代理執行,開發者也多了一個拉長處理時間、降低 Token 成本的選項。
使用 2 小時與 8 小時窗口時,必須啟用背景處理並選擇 Standard 處理。折扣窗口不支援串流輸出,需透過 webhook 或查詢回應 ID 來確認處理狀態。
後續請求可重複使用同一個 continuation_id。OpenAI 指出,若沿用相同的完成窗口、continuation_id、模型與專案,相關請求可能獲得較高的佇列優先級;符合資格的後續請求也適用折扣。
GPT-6.2 Astra 與 GPT-6.2 Sol 不再提供 Flex 處理方式。長時間工作若要降低成本,需改用 2 小時或 8 小時背景窗口,取代原有 Flex。
2 小時與 8 小時請求共用 Batch API 工作與 Batch/Background 專用的速率限制。輸入 Token 會在提交請求時計入額度;預設 soonest 則使用一般請求與 Token 限額。
同時提交大規模工作時,需要採用與一般請求不同的額度管理方式。因此,開發者需一併確認並行提交量與剩餘額度。
即使關閉儲存選項或啟用 Zero Data Retention,背景模式仍可能為傳遞結果而暫時儲存回應資料。文件說明,這些暫存的請求內容會經過加密。
這次完成窗口僅提供給 Responses API 背景模式,並非適用於 Chat Completions 一般請求的折扣功能。需要即時回應的應用程式可選 soonest,夜間文件分析則可選 2h 或 8h,依用途分配。
OpenAI 的 API 價格調整並非首次。本報此前曾報導 GPT-6 Luna API 輸入單價下調;這次變更的不同之處在於,折扣幅度是按處理等待時間區分,而非調整各模型的固定單價。
使用公開 Beta 的開發者需要同時確認完成窗口、是否採用 Standard 處理、串流限制與共用速率額度。現行文件提供的選項,是在 API 請求階段調整回應速度與成本之間的條件。
Comment 0