AWS於周四推出了Strands Decider 2B,這是其對Jev、Kev、imajev、Laya等決策模型
的回應之作。
TypeSafe公司的Jev幾周前開啟了當前這波決策模型的熱潮,各大AI廠商如今紛紛推出自己的版本。
例如,OpenAI周二發布了其Decisions API的有限預覽版。但那是一個託管API,其Luna模型專注於解答有預設答案的問題,而AWS發布的則是一個可下載的模型,並附帶了用於訓練它的數據和腳本。
Strands Decider的工作原理
決策模型放棄了自由形式的文本生成,轉而從開發者提供的選項中進行選擇,或返回數值評分。這使得它們適用於路由自然語言請求、選擇工具、評估輸出以及檢查提議的行動,而將對話和更複雜的工作留給生成式模型處理。
Strands Decider使用Qwen3.5-2B作為其語言理解的基礎模型,AWS稱之為"軀幹"。團隊隨後移除了生成文本的語言模型頭部,並將其替換為一個用於對所提供答案選項進行評分的指針頭部
。
該頭部的參數剛過百萬,而主幹網路使用的是秩為16的LoRA
(低秩適應)適配器。
限制答案空間可以防止模型憑空捏造一個未被提供的選項,但這並不意味著它總能給出正確答案。不過這只是一個小小的權衡,因為大語言模型本身也並非總是正確的。作為回報,開發者獲得了更快的決策速度以及可用於輔助決策的置信度評分。
在智能體行動前進行檢查
在AWS基於其開源Strands智能體框架構建的示例中,用戶詢問天氣情況但未說明具體地點,智能體猜測了一個城市並提議調用天氣工具。
在該工具運行之前,Decider會檢查參數值是否基於對話內容,以及智能體是否擁有足夠的資訊來繼續執行。隨後應用程式會讓智能體返回,詢問用戶所指的具體城市。
該檢查流程會經過Strands的干預系統,該系統允許開發者選擇是繼續執行工具調用、拒絕調用、要求人工確認,還是向智能體返回反饋資訊。
在這個演示中,Decider在本地運行,而智能體則通過Amazon Bedrock調用其生成式模型。AWS表示,公司也在開發決策模型集成庫。
基於開放的Qwen模型構建
與Kev一樣,Strands Decider也是基於開放的Qwen模型構建的,這表明當前這類實驗在很大程度上依賴於開放權重模型
。Kev已經支持本地部署和微調,而AWS此次發布包含了訓練數據和腳本,讓開發者能夠查看具體方案並將其應用於自己的任務中。
與Kev一樣,Strands Decider也是基於開放的Qwen模型構建的,這表明當前這類實驗在很大程度上依賴於開放權重模型。
AWS表示,公司的重點是在準確性、校準度
和延遲之間取得平衡。這裡所說的校準度,是指模型的置信度評分與其實際正確率之間的匹配程度。
AWS表示,在JevBench
的公開測試集中,Strands Decider在約20億參數規模的公開模型中排名第二,而在提供完整訓練方案的公開模型中排名第一。
AWS還指出,Strands Decider 2B在JevBench的簡單難度等級測試中全部回答正確,而這正是其設計用於處理的常規智能體決策類型。
AWS報告稱,在Nvidia RTX 3090上,決策耗時低於100毫秒,耗時會隨任務複雜度增加而上升。該公司表示,在M3 MacBook上,小型任務的中位耗時約為150毫秒。
AWS此次發布的模型是該架構的第二個主要疊代版本。該公司表示,早期的頭部設計性能明顯較差。AWS還在代碼庫中保留了之前每一個疊代版本,以便開發者能夠追溯模型的演變過程。
Strands Decider誕生於Strands Labs
,這是AWS今年早些時候成立的專注於智能體AI實驗性方法的研發部門。此前,該公司還發布了Strands Harness,該工具包封裝了運行長周期智能體所需的工具和配套機制。
託管版Decider?
目前仍有待觀察的是,AWS是否也會在其雲平台上提供這款模型(或其未來版本)的託管版本。混合方案非常適合用於實驗和本地運行,但要將基於該模型構建的應用投入生產環境,開發者還會希望看到有託管版本可用。
Q&A
Q1:Strands Decider 2B是什麼?
A:Strands Decider 2B是AWS推出的決策模型,是對TypeSafe公司Jev等決策模型的回應。它通過從開發者提供的選項中選擇或返回數值評分來輔助智能體做決策,而非生成自由形式文本。
Q2:Strands Decider與OpenAI的Decisions API有什麼區別?
A:OpenAI的Decisions API是一個託管API,專注於解答有預設答案的問題;而AWS發布的Strands Decider是一個可下載的模型,並附帶了用於訓練它的數據和腳本,開發者可以本地部署和微調。
Q3:Strands Decider的運行速度和準確率如何?
A:AWS報告稱,在Nvidia RTX 3090上決策耗時低於100毫秒,在M3 MacBook上小型任務中位耗時約150毫秒。在JevBench公開測試集中,該模型在約20億參數規模的公開模型中排名第二,在提供完整訓練方案的公開模型中排名第一。






