OpenAI 於 2026 年 10 月 22 日正式推出 Decisions API,為開發人員提供專門工具,用於應用程式和自動化工作流程中快速處理範圍明確的選擇。這項服務以 GPT-6 Luna 為基礎,適用於文件分類、請求路由,以及選擇代理程式的下一步動作等任務,費用僅按輸入 token 計算。
重點摘要
- OpenAI 表示,透過 Responses API,這項服務處理範圍明確的決策時,速度最高可達 GPT-6 Luna 的 10 倍。
- Box 和 Datadog 在特定評估中回報效能提升,但這些結果並非適用於所有應用程式的通用基準。
- 此次推出新增原生 GPT-Live 整合、提示快取,以及美國和歐盟的區域處理服務。
目錄
Decisions API 針對大型工作流程中的小型決策
OpenAI 的正式推出公告指出,這項產品著重於反覆出現、且可能答案已預先定義的決策。開發人員提供問題、允許的答案和背景資訊,背景資訊可包含文字、圖像或原生 JSON。
這項服務回傳機率、選擇或分數,而非開放式回覆。因此,它適合用於選擇工作流程分支、判斷某個條件是否成立,或依據明確定義的評分規準評估輸入內容。
實際上的差異在於,生成廣泛的答覆,與做出受限選擇、供另一個應用程式採取行動,兩者並不相同。OpenAI 表示,當應用程式大規模重複執行這類個別規模雖小的決策時,延遲和成本可能逐漸累積。
| 項目 | 詳情 |
|---|---|
| 標準輸入價格 | 每百萬個輸入 token 收費 $0.10。 |
| 快取輸入價格 | 每百萬個快取輸入 token 收費 $0.01。 |
| 輸出 token 費用 | 不收費。 |
| 每次請求的問題數 | 最多 400 個,是先前上限的兩倍。 |
客戶測試顯示效能提升,但比較基準各異
Box 以 30 個保險證明文件案例評估文件路由。該公司平台與整合產品管理副總裁 Biswaroop Palit 表示,與 Responses API 相比,路由選擇速度約快 5 倍,準確度則相同。信心較低的案例會轉交審查人員處理。
Datadog 正使用這項服務,在執行代理程式產生的 rshell 命令前評估其風險。Staff engineer AJ Stuyvenberg 表示,與可用的前沿模型相比,該服務的 p95 延遲快了 40 倍,準確度則相近。p95 指標描述 95% 的請求可在其中完成的回應時間。
這些結果涉及不同任務和比較系統,展示的是特定客戶的使用情境,但無法證明每種部署都能達到相同的速度提升或準確度。
定價和部署選項影響導入方式
OpenAI 按輸入 token 收費,不另收輸出 token 費用。提示快取則為重複使用的背景資訊提供較低費率,因此,對於反覆套用相同指令的應用程式而言,這種定價結構具有參考價值。
自公開測試版推出以來,OpenAI 也新增原生 GPT-Live 整合,讓使用者能在即時對話中進行決策。可能的用途包括判斷客服代理是否應提出澄清問題、轉送請求或升級處理問題。
美國和歐盟均提供區域處理服務,符合資格的客戶則可使用零資料保留(Zero Data Retention)。這些是部署選項,並不代表所有客戶都會自動享有相同的資料控管措施。
結論
Decisions API 現已透過專用端點提供。開發人員接下來可在 Decisions Playground 中,使用具代表性的範例測試一項反覆出現的決策,確認其速度、準確度和成本是否符合自身工作流程的需求。
閱讀更多新聞
免責聲明
本文由 FinanceVelix 提供一般資訊,並非個人化財務、投資、法律或稅務建議。市場價格、利率和經濟狀況可能變動;投資存在損失風險。本文所載事實反映發布時可取得的資料,且可能有所變動。請自行查證重要資訊,並視需要諮詢合格專業人士。提及任何資產、公司或服務,均不構成背書。




