宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

用NVIDIA DOCA智能體技能加速BlueField應用開發

2026年10月10日 首頁 » 熱門科技

AI智能體正逐漸成為開發工作流程的標準組成部分,但通用型智能體在設計時並未考慮到像NVIDIA DOCA這樣的專業基礎設施軟體。由於缺乏領域專業知識,智能體可能會依賴猜測來完成任務,這在基礎設施開發中是一個問題,因為每一次糾錯循環都會占用部署所需的時間。

DOCA是一個統一的軟體平台,能夠釋放NVIDIA BlueField數據處理單元(DPU)在智能體式AI基礎設施中的全部潛力。它涵蓋加速網路、AI原生儲存、晶片級安全、遙測以及生命周期管理,是基於NVIDIA BlueField構建應用的開發平台。

DOCA AI智能體技能現已在GitHub上線。這些技能提供了一個結構化、經過驗證的基礎,用以彌補通用型AI智能體在DOCA開發方面的不足。它們為智能體提供經過驗證的API簽名、硬體能力要求以及構建約束條件。

本文將介紹DOCA AI智能體技能是什麼,以及它們在四個具有代表性的DOCA開發場景中的表現,包括一個對比演示,以及如何開始使用DOCA智能體技能,以便更快構建並在BlueField基礎設施上交付更穩定的代碼。

什麼是DOCA AI智能體技能

DOCA AI智能體技能是一種標準化方式,用於為AI智能體賦予新能力和專業知識。這種輕量級的開放格式圍繞一個SKILL.md文件構建,其中包含真實的API簽名、硬體能力要求和構建約束條件。這些技能組合在一起,為智能體提供了針對DOCA的推理和操作框架。

技能覆蓋了整個DOCA庫,包括Flow、GPUNetIO、PCC等組件。它們並不能取代智能體本身,而是賦予智能體像經驗豐富的DOCA開發者那樣進行推理的領域知識。

每項技能都針對特定的DOCA組件或工作流程。例如,當智能體加載針對DOCA Flow的技能時,它會獲得真實的函數簽名、正確的pkg-config模組名稱、構建容器的限制條件,以及常見故障模式及其應對方法。這些技能不僅是文檔的摘要,更是智能體可以直接據以推理的機器可讀規範。

為什麼AI智能體需要DOCA開發的基礎

當你要求一個通用型AI智能體設置DOCA Comch(通信通道)、配置RDMA上下文,或調試DOCA Flow程序中的鏈路故障時,該智能體是基於通用訓練數據中的模式匹配來工作的,而不是基於經過驗證的DOCA API約定、硬體能力清單或構建系統規範。DOCA庫的覆蓋面龐大、迅速演進,並具有通用訓練數據無法捕捉到的硬體特定性。智能體沒有可供推理的機器可讀契約,智能體所知內容與硬體、軟體實際支持內容之間也沒有穩定的保證接口。

為了量化這一差距,NVIDIA團隊運行了65個真實的DOCA開發者提示詞,比較了有技能和無技能情況下智能體的表現。這些提示詞從一行簡單問題到包含多項具體要求的詳細指令不等,並依據必答檢查清單(針對每項任務設定的一組通過/失敗標準)進行評分。在沒有技能的情況下,智能體反覆出現相同的錯誤,包括:

API和參數誤用:65個提示詞中有59個

硬體能力未經驗證:65個提示詞中有46個

工具調用路徑錯誤:65個提示詞中有39個

跳過冒煙測試:65個提示詞中有34個

版本猜測:65個提示詞中有30個

這些是持續出現的失敗情況。沒有技能時,智能體在真實DOCA任務中僅滿足19%的評分檢查項;而配備技能後,智能體在全部65個提示詞中均滿足100%的檢查項。如果沒有這些技能,智能體的每一次錯誤都會變成開發者的一次調試會話,並延長獲得可用代碼的路徑。

DOCA智能體技能為開發者帶來哪些優勢

DOCA智能體技能讓你能夠為智能體配備領域專業知識,這意味著你可以更快構建、交付更穩定的代碼,並以更少的未知因素進行部署。

更快構建:技能從一開始就為智能體提供經過驗證的API調用,讓你專注於編寫代碼,而不是糾正錯誤。

交付更穩定的代碼:有了技能,智能體會在編寫第一行代碼之前,先檢查設備實際支持的內容,而不是等到在真實硬體上運行後才發現問題。

以更少未知因素部署:智能體會在接觸硬體之前應用預檢、回滾方案以及對冷啟動周期的認知,而不是等出問題之後再處理。

綜合效果是任務與可用代碼之間的糾錯循環次數減少。對於大規模在DOCA應用中使用AI智能體的團隊而言,這種減少會在每個開發者、每項任務和每次部署中不斷累積。

利用智能體技能加速DOCA開發

以下部分詳細介紹了四項能力,每項能力都結合了我們65個提示詞評估中的真實提示詞,以及使用該技能帶來的好處。

藉助真實API更快構建

DOCA AI智能體技能解決的問題:API誤用,即智能體編造出不存在的函數、參數標誌和鏡像標籤。

這是我們評估中出現頻率最高的失敗模式,影響了65個提示詞中的59個。在沒有技能的情況下,智能體生成的代碼會引用DOCA庫中不存在的函數、名稱錯誤的標誌,以及在運行時失敗的鏡像標籤。作為開發者,你最終要調試一個並非自己引入的錯誤(即智能體編造出來的錯誤)。

提示詞示例:"我有一台配備BlueField-3 DPU的主機,並已安裝DOCA。我想在主機側進程和DPU側代理之間建立一個DOCA Comch(通信通道),以便交換小型控制消息(每條小於4 KiB,每秒數次)。"

配備技能的AI智能體只使用真實的DOCA Comch API調用:正確的參數順序、經過驗證的標誌以及生命周期順序,沒有任何編造內容。

當智能體的首次回答就使用了正確的API接口,你就可以直接進入集成階段,而不必從調試會話開始。在測試API準確性的63個提示詞中,配備技能的結果每次都更優。

在編寫任何代碼之前先驗證硬體

DOCA AI智能體技能解決的問題:智能體為設備不支持的功能編寫代碼。

在沒有技能的情況下,65個提示詞中有46個未能完成硬體能力驗證。失敗模式是一致的:智能體假定某項能力存在,針對該假定生成代碼,而開發者只有在真實硬體上運行時才發現不匹配。此時,修復工作需要弄清哪項能力檢查被跳過,重新設計代碼路徑,並重新測試。

提示詞示例:"我有兩台通過高速InfiniBand網路連接的主機。每台主機配備一個NVIDIA GPU和一個ConnectX網卡,兩台主機都已安裝DOCA。我想測量從GPU上的CUDA核心(而非主機CPU線程)發出RDMA WRITE工作請求(WR)時的延遲,以便決定是否將我的應用程式投入到GPUNetIO Verbs接口上。"

配備技能的AI智能體會在編寫任何代碼之前,先檢查設備實際支持的內容。它會驗證GPU與網卡之間的PCIe拓撲結構,在投入使用前確認GPUNetIO支持情況,並指出其他可用的API接口以及各自適用的場景。

配備技能的AI智能體會依據實際使用的硬體,驗證答案的前提條件,然後才開始編寫任何代碼。

交付能夠編譯和鏈接的代碼

DOCA AI智能體技能解決的問題:智能體生成的代碼無法在DOCA容器中編譯或鏈接。

構建正確性在65個提示詞中的10個上進行了測試。這是一個較小的子集,但一旦涉及此類問題,開發工作就無法繼續進行。

提示詞示例:"我正在嘗試基於一個官方示例構建DOCA Flow程序。編譯步驟成功,但鏈接失敗:undefined reference to doca_flow_init。我該如何調試這個問題?"

配備技能的AI智能體會將這個未定義引用識別為鏈接時錯誤,並使用構建工具(pkg-config)查找doca-flow對應的正確鏈接器標誌。

一個生成錯誤鏈接器標誌的智能體會讓開發者走上一條無法解決問題的路徑。而配備技能的智能體則會立即給出正確的診斷思路,以及用來獲取正確標誌的正確工具。

安全執行影響硬體的變更

DOCA AI智能體技能解決的問題:智能體在沒有預檢、回滾方案,也不了解冷啟動周期要求的情況下,對運行中的硬體應用固件級變更。

任務越複雜,技能的重要性就越突出。在我們的65個提示詞評估中,性能差距最大的情況出現在複雜度最高的場景中:對運行中硬體進行固件級變更。

提示詞示例:"我有一台運行DOCA工作負載的生產環境BlueField-3 DPU。我已經為我的服務加載了DOCA AI智能體技能,接下來要編寫一個mlxconfig類的固件級參數。"

配備技能的AI智能體嚴格執行固件級變更所需的全部規範,滿足每一項要求。這包括預檢清單、將帶外(OOB)路徑作為前提條件、明確的維護窗口、回滾方案,並指出mlxconfig類的寫入操作只有在冷啟動周期後才會生效,而非熱重啟。

配備技能的智能體滿足了所有要求,而未配備技能的智能體則一項都沒有滿足。在生產環境的DPU上,這些疏漏都不是可以通過調試來彌補的。這些技能承載著關於潛在風險及其成因的知識,將一次充滿風險的固件變更轉變為一個嚴謹、安全的流程。

在全部65個提示詞中,配備DOCA技能的AI智能體每次都得出了正確答案,這意味著更少的糾錯循環以及更快獲得可用代碼的速度。

演示影片中給出了具體的效率提升數據。兩個智能體被分配了相同的任務:編寫一個使用NVIDIA DOCA在BlueField-3上發送真實RDMA流量的程序。兩者都完成了任務,但配備技能的智能體手寫代碼量減少了73%(189行對695行),所需硬體命令數量也大約減半(20條對37條,減少了46%)。這正是一個需要通過反覆試錯來重新發現DOCA API和構建要求的智能體,與一個在編寫第一行代碼之前就已掌握這些知識的智能體之間的差異。

開始使用NVIDIA DOCA AI智能體技能

DOCA AI智能體技能為你的智能體提供了取得成功所需的領域知識,讓你能夠以更高的效率和準確性進行構建。要開始使用,請訪問NVIDIA/skills GitHub倉庫。你可以查看通用技能作為快速入門,也可以查看針對DOCA Flow、GPUNetIO、RDMA等庫的專屬技能。

Q&A

Q1:DOCA AI智能體技能是什麼?

A:DOCA AI智能體技能是一種標準化方式,用於給AI智能體賦予新能力。它圍繞SKILL.md文件構建,包含真實API簽名、硬體能力要求和構建約束,幫助智能體像經驗豐富的DOCA開發者一樣進行推理。

Q2:使用DOCA智能體技能能帶來什麼好處?

A:可以讓開發者更快構建、交付更穩定的代碼,並以更少的未知因素進行部署。智能體能提供經過驗證的API調用,在編寫代碼前先檢查設備支持情況,並在接觸硬體前應用預檢和回滾方案。

Q3:如何開始使用DOCA AI智能體技能?

A:可以訪問NVIDIA/skills GitHub倉庫,查看通用技能快速入門,也可以查看針對DOCA Flow、GPUNetIO、RDMA等庫的專屬技能。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2026 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新