隨著TypeSafe旗下Jev模型的突然崛起，決策模型已經變得非常受歡迎，因此OpenAI在周二舉辦的年度DevDay大會上公布自家同類模型方案也並不令人意外。
該公司推出的全新決策API（Decisions API）基於其Luna模型構建，這是目前OpenAI產品線中體積最小、價格最實惠的模型。
有限預覽階段
決策API的推出很可能是對TypeSafe和Jev的回應，OpenAI很可能在DevDay之前加快了發布節奏，因此目前OpenAI對外公布的決策API資訊僅限於此。
OpenAI發言人向The New Stack透露，公司計劃在「全面推出時」分享更多細節。
目前，這一新API僅處於有限預覽階段，全面發布計劃在未來幾天內進行。
預設答案，真實置信度分數
這類決策模型的核心理念在於，它們明確不是聊天模型；相反，它們會返回一組帶有置信度分數的預設答案。常規大語言模型在這方面表現往往不夠理想——畢竟它們給出的置信度分數常常只是粗略估計，而且為了得出這個結果還要消耗不少Token。
這使得這類模型非常適合用於內容分類、請求路由，或是幫助智能體從有限選項中選擇下一步行動。
不過，決策模型能夠提供更真實的置信度分數，而且返回速度通常極快。OpenAI表示，其模型能在150毫秒內返回結果，相比之下，GPT-6 Luna模型則需要1.6秒。
開發者只需提供問題、答案和上下文即可。
OpenAI讓「使用ChatGPT登錄」成為在第三方編程工具中使用訂閱服務的方式
OpenAI剛剛推出了Dots，這對開發者為何意義重大
OpenAI將200美元套餐額度減半，推出500美元新套餐
OpenAI推出基於Luna構建的決策API，回應TypeSafe的Jev
OpenAI全新GPT-6.1 Sol模型價格低於自家旗艦產品Astra
提示詞方案與小型分類器方案
目前，大多數團隊處理此類問題的方式是使用常規聊天模型配合精心設計的提示詞，要求模型從列表中選擇答案，如果運氣好的話，再讀取Token概率來獲得類似置信度分數的結果。
另一種替代方案是訓練一個小型分類器。這種方式速度快、成本低，但需要標註數據，而且每當標籤集發生變化時都需要重新訓練。
決策模型基本上介於這兩種方案之間。它在提示詞中接收新標籤，但返回的是開發者可以直接使用的分數。
這對OpenAI來說並非全新概念。該公司的內容審核API（Moderation API）長期以來也是按類別返回分數而非文字描述，不過在那個API中，類別是由OpenAI預先設定的，而非由開發者自行定義。
目前仍不清楚的是：決策API每次調用的費用是多少，單次請求能處理多少候選答案，以及開發者能否基於自己的數據對其進行調優。這些細節將決定這一API能否成為智能體框架中的標準構建模組，還是僅作為聊天模型之外的一個小眾工具存在。
Q&A
Q1：OpenAI的決策API是什麼？
A：決策API是OpenAI基於Luna模型推出的新產品，與常規聊天模型不同，它返回的是一組帶有置信度分數的預設答案，適合用於內容分類、請求路由或智能體決策等場景。
Q2：決策API相比常規大語言模型有什麼優勢？
A：決策API能提供更真實的置信度分數，且響應速度極快，OpenAI表示其返回結果僅需150毫秒，而GPT-6 Luna則需要1.6秒，速度優勢明顯。
Q3：決策API現在可以使用嗎？
A：目前該API處於有限預覽階段，OpenAI計劃在未來幾天內進行全面發布，更多細節將在全面推出時公布。
