宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

Teradata推出智能體執行優化技術降低推理成本

2026年09月30日 首頁 » 熱門科技

Teradata正在為其面向企業數據與AI任務的AI工作空間Tera增加上下文引擎、執行層和可復用智能體技能,目的是提高多步驟工作流的智能體執行效率。Tera最初於5月作為Teradata自主知識平台的一部分推出。

Teradata在一份聲明中表示,這些新增功能旨在減少不必要的模型和工具調用,同時保留業務上下文,並自動為每個任務匹配合適的數據、工具、模型和技能,幫助企業在智能體工作負載擴展時控制推理成本。

新的執行層Tera HarnessTeradata推出智能體執行優化技術降低推理成本決定智能體如何處理任務以及工作流如何路由,而Tera Context Engine則添加了指導這些決策所需的業務上下文。

該公司表示,為了減少完成任務或工作流所需的計算量,Harness在將工作發送給大語言模型之前會先創建執行計劃,將獨立任務批量處理,並刪除無助於推進任務的模型或工具調用。該公司補充說,它在推理前應用了84種執行模式,並根據工作流的進展限制其可運行的步驟數,從而減少重複的大語言模型推理,以及與低效智能體循環相關的Token和基礎設施成本。

根據Teradata在SWE-bench Pro基準測試上的自我評估,藉助這些新功能,在運行相同的Opus 5模型時,Tera所使用的Token比Claude Code少73%,任務完成速度快42%,總成本降低58%,同時任務完成率更高。

分析師表示,這種對智能體執行經濟性的關注,對於試圖在既定AI預算內擴展智能體工作負載的首席資訊官來說可能變得越來越重要。

HFS Research執行研究負責人阿希什·查圖爾維迪表示:"Tera Harness正在攻克企業現在才發現痛點所在的智能體AI問題——如果任由智能體自行推理完成每一步,它很可能會在從未真正推進任務的循環中白白消耗Token。即使每個工作流調用次數的小幅減少,在規模化後也會變得意義重大。"

HyperFrame Research的AI技術棧實踐負責人史蒂芬妮·沃爾特表示,對於希望控制智能體成本的企業而言,減少不必要的模型調用及其消耗的推理Token,可能比簡單地選擇更便宜的模型更為實際,因為這減少了智能體所需的推理量,而不僅僅是降低每次推理的成本。

博通公司高級站點可靠性工程師阿德瓦伊特·帕特爾表示,除了降低支出外,約束智能體執行任務方式的這種能力,也能幫助首席資訊官更好地為其智能體工作負載做預算。

帕特爾說:"目前,智能體成本很難預測,因為同一任務今天可能只需5次調用,明天卻需要50次。先規劃的Harness使成本更加一致,從而使預算和擴展決策更容易。"

這種可預測性也可能減少開發人員自身需要構建和維護的智能體優化工作量。

帕特爾指出:"在調用大語言模型之前先規劃、批量處理獨立步驟,以及刪除無助於推進任務的調用,這些都是成熟的工程實踐,但由平台默認應用這些實踐,意味著各個開發團隊不必為每個智能體工作流單獨實現並持續調整這些控制機制。"

然而,Tera這種以成本優化為導向的方法並非沒有代價,企業團隊需要考慮更嚴格受控的智能體執行可能帶來的限制。

帕特爾表示:"問題在於,對大語言模型推理調用進行削減本身是一種主觀判斷。如果Harness認為某個步驟不必要而將其刪除,而該步驟實際上很重要,企業確實省了錢,但得到的答案會更差。因此企業需要仔細核實結果。"

沃爾特表示,這反過來可能會將開發人員的部分工作,從指導具體步驟(例如決定調用哪些工具以及任務如何排序)轉向定義正確結果應該是什麼樣子,並審查智能體是否已實現該結果。她還補充說,團隊還需要維護決定智能體在生產環境中如何運作的技能、指令和防護措施,即便平台承擔了更多執行工作,這仍會產生新的一層工程工作。

KramerERP管理合伙人勞勃·克拉默表示,首席資訊官也需要保持謹慎,尤其是在承諾的成本效益方面。他說:"Teradata的基準測試結果不應被視為等同於企業的總擁有成本。企業應該衡量完成一項業務任務的成本,包括模型使用、數據計算、工具調用、重試、編排以及審查結果所需的人力投入。"

沃爾特表示,運行智能體工作流的成本並非首席資訊官唯一需要考慮的因素:企業越依賴Tera的架構來管理上下文、執行和可復用技能,這些能力就越可能被嵌入到其工作流中,這也帶來了一個單獨的問題——這些工作流未來遷移到其他平台會有多容易。

這些權衡以及Teradata當前的裝機客戶群,也可能影響哪些企業會選擇採用Tera及採用方式。

沃爾特說:"最有可能的早期採用者,是那些擁有複雜、受管控的數據環境,且工作流跨越分析、數據工程和AI領域的現有Teradata客戶。對這些企業而言,Tera代表著對其已在使用的環境的一種合理擴展。要贏得已經標準化使用Snowflake或Databricks的客戶會更難,因為智能體本身還不足以成為遷移的理由。"

Teradata計劃在12月前正式推出新的上下文引擎、執行層和可復用智能體技能。

本文首發於CIO網站。

Q&A

Q1:Tera Harness是什麼?它有什麼作用?

A:Tera Harness是Teradata新增的執行層,用於決定智能體如何處理任務以及工作流如何路由。它通過預先創建執行計劃、批量處理獨立任務、刪除無效調用等方式,減少不必要的模型和工具調用,從而降低推理成本並提升任務完成效率。

Q2:Tera相比Claude Code的性能表現如何?

A:根據Teradata在SWE-bench Pro基準測試上的評估,在運行相同的Opus 5模型時,Tera使用的Token比Claude Code少73%,任務完成速度快42%,總成本降低58%,同時任務完成率更高。

Q3:使用Tera這類成本優化工具有哪些風險?

A:主要風險在於推理調用的削減是一種主觀判斷。如果系統認為某步驟不必要而刪除,但該步驟實際很重要,企業雖然省錢卻可能得到更差的結果,因此企業需要仔細核實輸出結果,並權衡效率與準確性之間的取捨。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2026 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新