相信看過《流浪地球2》的朋友一定對其中的各種機器人印象深刻,帶有機械臂的巡檢機器人自主操作監測指標,保障空間站人員生命安全;地球聯合政府會議廳,機器人駐守一旁輔助人類科學決策;北京航天中心數據中心,巡檢機器人支撐著海量數據平穩運作;行星發動機機庫中,移動機器人有條不紊地搬運傳送著物料……
其實在現實生活中,在高性能邊緣計算晶片和人工智慧的加持下,機器人,正在從實驗室走向商業落地。對於工程師而言,抓住機器人領域的快速發展的機會,才能立於不敗之地。
邊緣AI和機器人應用開發正當時
邊緣人工智慧已成為一個重要的增長市場。從技術發展方面看,晶片和軟體技術的疊代一定程度推動了邊緣AI的發展。過去晶片的算力無法滿足邊緣AI應用,同時軟體配置通常是利用專家系統或者是基本機器學習系統來實現AI功能。
但是現在隨著深度學習軟體上的發展,以及高算力、低功耗的邊緣處理器的普及,邊緣AI在技術支持層面也得到了更好的發展。
與此同時,人工智慧和機器學習應用程序的加入增加了垂直領域邊緣部署的複雜性。從自主移動機器人、零售、智慧城市、農業、物流、製造到醫療保健,各個行業都在為邊緣技術注入大量人工智慧。
開發機器人是一項涉及多學科的工作。機械工程師、電氣工程師、電腦科學家和AI工程師齊聚一堂,攜手打造機器人。
目前已經有不少AI框架已經逐步支持端側AI了,也有晶片廠商推出來面向AI的開箱即用的工具。例如依託Jetson平台,NVIDIA打造雲原生軟體堆棧、預先訓練的模型、應用程序框架和不斷發展的生態系統來簡化邊緣AI和機器人應用開發,從而實現快速上市。
NVIDIA Jetson讓邊緣AI和機器人應用開發易如反掌
NVIDIA Jetson是面向邊緣計算的人工智慧平台,適用於自主機器和其他嵌入式應用程序。而NVIDIA Jetson Nano是一款面向嵌入式和邊緣人工智慧市場的低成本入門級人工智慧電腦。
NVIDIA Jetson Nano可以並行運行多個神經網路,用於圖像分類、對象檢測、分割和語音處理等應用。所有這些都被打包到一個易於使用的平台中,該平台的功耗僅為5瓦。
同時,NVIDIA還提供了Jetson Nano開發套件,以令人驚嘆的速度輕鬆設置和運行現代人工智慧算法。
從預測公交車到達時間到實時西洋棋遊戲分析,從基於AI的音樂合成器到實驗室設備的自動視覺警報系統, Jetson開發人員可以使用Jetson Nano開發套件發現AI的各種功能。
比如明尼蘇達大學的研究人員開發了一種neuroprosthetic hand,它使用基於遞歸神經網路(RNN)的AI模型來讀取和解碼截肢者從周圍神經活動中移動手指的意圖。AI模型使用NVIDIA Jetson Nano作為便攜式獨立單元進行部署。
開發者Arthur Findelair演示了如何增強無人機的電腦視覺能力,並使用Jetson Nano的計算能力實現了無人機的手勢控制。
NVIDIA Jetson的創新永無止境
NVIDIA正在繼續增強Jetson系列,在2022年秋季GTC上發布的 Jetson Orin Nano系列為入門級 AI 設定了新標準。
Orin Nano模組在外形和引腳上與之前發布的Orin NX模組完全兼容。用戶使用AGX Orin開發者套件開發適合Orin Nano系列的應用,能夠靈活地設計一個系統來支持多個Jetson模組並輕鬆擴展其應用。
Orin Nano通過高速I/O和NVIDIA Ampere架構GPU支持多個並發AI應用流水線。零售分析、工業質量控制等入門級設備和應用的開發者將能夠以較低的成本更容易地獲得更複雜的AI模型。
Orin Nano模組將分為兩個版本:Orin Nano 8GB提供最高40TOPS性能,功率為7W至15W;4GB版本提供最高20TOPS性能,功率僅為5W至10W。
Orin Nano得到了NVIDIA JetPack SDK的支持並由NVIDIA CUDA-X加速計算堆棧驅動。該計算堆棧也被用於創造工業物聯網、製造業、智慧城市等領域的開創性AI產品。
目前,NVIDIA活躍的Jetson生態系統正在迅速發展。該生態系統已擁有超過100萬名開發者、6000名客戶、2000家初創企業和150家合作夥伴。Jetson合作夥伴提供從AI軟體、硬體和應用設計服務到攝影機、傳感器和外設、開發者工具以及開發系統等各類支持。