OpenAI公開決策型API：分類代理行為

OpenAI公開了一款從預設選項中選出單一答案的決策型API，將運算集中在結構化判斷，而非大型語言模型的長篇回應，瞄準代理行為分類與自動化工作。

OpenAI於9月29日的開發者活動中，以有限預覽形式公開Decisions API。開發者可輸入文字或圖片情境，讓API從預先設定的答案清單中選出一項，用於內容分類、請求路由，以及決定代理接下來的行動。

山姆·奧特曼（Sam Altman）OpenAI執行長在活動中表示，Decisions API可讓OpenAI的Luna模型負責圖片分類或代理行為等預設選項之間的判斷。他說：「如果讓模型專注於這項選擇，就能在維持圖片理解、廣泛語言支援與安全措施的同時，讓它變得非常快速。」這反映出該API以限定輸出範圍換取速度與可控性。

這款API的核心在於，不讓通用語言模型自由生成完整句子，而是將輸出限制為軟體可以直接處理的判斷值。開發者預先設定選項與問題類型後，模型便會在指定範圍內回傳結果。

這種架構適合分類電子郵件或內容、將請求傳送至適當系統，以及選擇代理下一步行動。由於模型不必每次生成長篇回應，速度與成本有望降低。

TechCrunch報導，Decisions API提供的功能與TypeSafe AI於9月15日公開的Jev相似。本報此前曾介紹，Jev是一款回傳機率與結構化判斷、而非文字的模型。

Jev的設計目標是回傳開發者指定的選項與機率。TypeSafe AI將Jev介紹為針對軟體自動化打造的「System One」模型，並強調其相較文字生成更快速的判斷與結構化輸出。

TypeSafe AI表示，根據公司自行設計的評估，Jev的速度最高是既有語言模型的193.6倍，成本則低至444.6分之一。不過，這些數據建立在TypeSafe AI設計的評估環境上。

TypeSafe AI執行長迪奧戈·阿爾梅達（Diogo Almeida）在X上談到OpenAI的新API時，開玩笑稱這是「克隆戰爭」的開始。他表示，OpenAI的關注可能是在釋放訊號，顯示「以與System One相容的方式建構，才是未來」。

阿爾梅達也說：「要做到快速又便宜非常容易」，「如果真的想做到又快又便宜，就使用骰子。」他接著表示，真正重要的是智慧，目標是提高「每美元智慧」的效率曲線。

決策型模型的潛在用途之一，是監控人工智慧代理。TechCrunch報導，OpenAI在網路上發生代理做出錯誤行為的事件後，正使用獨立模型監控代理行為，作為安全措施，但這需要相當的運算成本。

QueryStory執行長沙波爾·納吉布扎德（Shapor Naghibzadeh）在上週末的黑客松中，示範了利用Jev將代理每次行動與任務進行比對的系統。系統會阻擋被判定為高風險的行動，將判斷模糊的行動標記為待審查，其餘行動則予以允許。

在這項示範中，使用Jev進行監控的成本為2.94美元（約3981元新台幣），低於使用前沿語言模型的372美元（約50萬元新台幣）。TechCrunch說明，這是特定示範環境下的比較，不代表OpenAI的Decisions API具備相同效能或成本。

TechCrunch報導，理論上，使用Jev進行監控可能阻止發生在Hugging Face的事件。如果成本低到足以檢查代理執行的每項行動，便可在工作流程中加入持續審查環節。

不過，決策型模型的實際價值不只取決於回應速度或低成本。模型能否依據現實情境調整機率，以及能否準確區分危險與正常行動，也需要一併驗證。

Decisions API目前仍處於有限預覽階段。在開發者累積實際環境中的效能、成本與誤判率資料前，外界仍難以判斷它是否超越與Jev的功能相似性。