Back to top
  • 공유 分享
  • 인쇄 列印
  • 글자크기 字體大小
已複製網址

OpenAI每秒可處理750個Token,將Ultrafast用於故障應對

工程師查看故障警報流程 / TokenPost.ai

OpenAI將高速處理等級「Ultrafast」用於內部故障應對。公司表示,Ultrafast速度最高可達標準處理的14倍,每秒最多生成750個輸出Token;但未公布故障調查總耗時的前後比較數據。

OpenAI於8月13日向部分客戶預覽推出GPT-5.6 Sol的API服務等級Ultrafast。這項功能透過Cerebras的推理基礎設施提供,14倍與每秒750個Token是公司公布的最高效能,不代表單次故障調查所需時間或平均效能。

OpenAI表示,系統發出警報時,內部工程師會使用Ultrafast讀取日誌與追蹤資訊、整理相關對話,也會藉此找出後續檢查項目,並準備和驗證修正方案。判斷與實際部署仍由工程師負責。

公司指出,觀察訊號、驗證假設並選擇下一步行動的流程延遲已縮短,但沒有公開故障調查總耗時的前後比較數據。僅憑最高輸出速度,無法推定事故調查時間也按相同比例縮短。

OpenAI核心產品與平台負責人蒂博・安貝爾(Thibault Imbert)於2026年8月18日在Cerebras活動上表示:「我們會將Ultrafast分配給故障或資安事件,以及優先級較高的專案。」這反映公司會優先將處理容量用於上述工作。

同場一名身分未確認的講者表示,資料蒐集、整理、正規化及補充脈絡所需時間,有時可從原本的1至2小時縮短至10至15分鐘。講者的具體工作內容與測量方式尚未確認。

OpenAI也將金融研究、資安分析、客戶支援、商務,以及研究與實驗列為Ultrafast的應用案例。這些是公司提出的案例,尚未公布各領域效益的獨立測量數據。

即使在故障應對中使用AI,最終判斷仍由人員負責;這與本刊先前報導建議企業資安計畫採用AI代理的方向一致。此次說明並未提及Ultrafast已應用於虛擬資產基礎設施,或已取得事故應對成效。

GPT-5.6 Sol的Ultrafast於8月公開時仍是面向部分客戶的預覽版。OpenAI目前的開發者文件指出,GPT-6 Astra與GPT-6.1 Sol已向所有API使用者提供Ultrafast;這兩款模型另有標準與Fast模式,並設有獨立的使用量上限。

本刊先前曾報導GPT-6.1 Sol逐步推出Ultrafast及其費率。

<版權所有 ⓒ TokenPost,未經授權禁止轉載與散佈>

最受歡迎

其他相關文章

留言 0

留言小技巧

好文章。 希望有後續報導。 分析得很棒。

0/1000

留言小技巧

好文章。 希望有後續報導。 分析得很棒。
1