Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

8小時完成視窗上線,OpenAI API模型Token費用低40%

在筆記型電腦上選擇背景處理視窗的手/TokenPost.ai

OpenAI在 Responses API 背景模式新增2小時與8小時完成視窗;選擇8小時視窗時,模型 Token 費用比 Standard 處理低40%。

OpenAI於17日在開發者變更日誌中表示,該功能以公開測試版加入;詳細條件載於背景模式文件。

完成視窗是 API 接收請求後處理第一個回應的目標時間。它不代表服務等級保證的截止時間,而是用來設定初始回應處理目標的時間基準。

預設值 soonest 以最快處理為目標,不提供折扣。2h視窗的模型 Token 費用比 Standard 低30%,8h視窗低40%。

折扣視窗提供給 GPT-6.2 Astra、GPT-6.2 Sol、GPT-6.1 Terra 與 GPT-6 Luna,四款模型皆屬這次公開測試版範圍。

這項功能鎖定文件審查、夜間分析等不必立即取得結果的工作。多階段代理程式執行也可用較長處理時間換取較低 Token 成本。

使用2小時與8小時視窗時,必須開啟背景處理並選擇 Standard 處理。折扣視窗不支援串流輸出,需透過 webhook 或查詢回應 ID確認處理狀態。

後續請求可重複使用相同 continuation_id。OpenAI表示,若沿用相同完成視窗、continuation_id、模型與專案,相關請求可能獲得較高佇列優先順序,符合資格的後續請求也可套用折扣。

GPT-6.2 Astra 與 GPT-6.2 Sol 不再提供 Flex 處理方式。需要降低長時間工作成本時,應改用2小時或8小時背景視窗。

2小時與8小時請求會共用 Batch API 工作的 Batch/Background 專用速率限制。輸入 Token 在提交請求時就會計入額度;預設 soonest 則使用一般請求與 Token 額度。

大規模同時提交工作時,需要採取不同於一般請求的額度管理方式,因此應一併確認同時提交量與剩餘額度。

即使關閉儲存選項或啟用 Zero Data Retention,背景模式仍可能為傳遞結果而暫時儲存回應資料。文件說明,暫存的請求內容會加密。

此次完成視窗功能僅提供給 Responses API 背景模式,不是 Chat Completions 一般請求可用的折扣功能。需要即時回應的應用程式可選 soonest,夜間文件分析則可選2h或8h。

OpenAI API的價格調整並非首次。本報先前曾報導 GPT-6 Luna API 輸入單價下調;這次變更不是按模型固定單價調整,而是依處理等待時間區分折扣幅度。

參與公開測試的開發者應同時確認完成視窗、是否採用 Standard 處理、串流限制及共用速率額度。現行文件顯示,這些選項讓開發者在提交 API 請求時,依回應速度與成本需求調整條件。

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1