近日，以「開放引領發展，合作共贏未來」為主題的2023年中國國際服務貿易交易會（簡稱「服貿會」）在北京舉行。
在中國智能產業論壇論壇上，英特爾中國區網路與邊緣事業部首席技術官、英特爾高級首席AI工程師張宇博士進行了主題分享，介紹了智能邊緣技術和市場發展，以及英特爾硬體軟體的產品如何賦能合作夥伴，快速構建面向智能邊緣的應用服務。
當前，在大語言模型的驅動下，人工智慧技術在各個行業得到迅速普及和應用，例如交通、醫療、零售、工業等等。
張宇說，人工智慧賦能包括雲計算、邊緣計算的計算模式，邊雲融合是一大趨勢。隨著行業以及連接、智能應用、數據隱私保護等方面訴求增加，這推動了邊緣計算尤其是邊緣智能事業的發展。
邊緣人工智慧發展趨勢
邊緣人工智慧是將人工智慧算法和模型部署在邊緣設備上，從而提供更高效、更精準的用戶體驗，並為企業的決策和生產提供更多動力。
人工智慧在邊緣的應用大多數還是停留在邊緣推理階段，這是目前絕大多數邊緣人工智慧使用的模式。但是這種模式有局限性，由於需要利用數據中心進行模型訓練，然後推送到邊緣側，導致模型的更新頻率有限。
以自動駕駛為例，它們對模型的即時更新有訴求。車企利用大量數據進行模型訓練，其採用的訓練數據集跟實際上駕駛人員在真正駕駛時所面臨的路況以及駕駛之間有差異，造成訓練以後模型泛化能力往往有限。最有效的解決辦法就是不斷在使用過程中根據駕駛人員的駕駛習慣以及我們所面臨的實際路況，對這個模型進行二次不斷的修正，不斷重新訓練。
這其實代表了邊緣人工智慧發展的下一個趨勢——邊緣訓練。當然邊緣訓練並不是說把數據中心現在已經用到大量的訓練手段，照搬到邊緣進行複製。畢竟邊緣側實現人工智慧訓練需要面臨一系列的特定挑戰。
張宇解釋說，邊緣側人工智慧訓練需要操作人員具備相應的經驗，而且訓練數據樣本規模小的情況實現有效訓練也是挑戰。此外，在確保隱私安全保護下利用融合的數據在邊緣實現模型進一步的訓練，這些都是在邊緣進行人工智慧訓練時需要解決的問題。
基於此，今後人工智慧發展的下一階段應該進入一個邊緣AutoML自主階段，這個階段網路模型應該感知人的意圖，選取適宜的樣本集訓練這個模型，將訓練結果推送到訓練階段進行相應操作。甚至根據訓練的結果不斷更新、不斷重新訓練網路模型，進行不斷疊代，達到最佳的理想結果，這是邊緣人工智慧發展的一個最終形態。
張宇表示，AutoML應該是一個人工智慧的閉環。目前ChatGPT等應用訓練完模型以後用於推理，推理的結果並不能馬上就進行反饋。畢竟大模型訓練成本非常高，不可能動態利用現在現實的推理結果對這個模型進行進一步的升級和改造。「如果把攀登高峰比喻人工智慧不同階段的話，實現邊緣推理只是意味著我們站到山腳，到我們能實現邊緣訓練只是站到半山腰，真正站到山頂是真正實現AutoML的時刻，這個還有很長的路要走。」
邊緣人工智慧發展的挑戰
雖然邊緣人工智慧的設計、開發和部署案例正在快速增長，但是很多企業仍面臨著資源有限、缺乏專業知識、難以在運行時保護數據和模型並在多樣化硬體平台上部署等難題。
目前邊緣人工智慧是把數據中心已經驗證過的AI手段經過優化之後在邊緣進行落地，但是由於行業場景和數據中心存在差異，邊緣人工智慧的發展越來也呈現出自身的特點，比如實時性的要求。
邊緣人工智慧發展並非一件容易的事，畢竟它的算力是有限的，這就限制了算法的複雜程度。所以網路壓縮技術是在邊緣進行人工智慧部署時很重要的一項技術。
人工智慧技術在數據中心訓練好模型以後，真正把它部署在邊緣的時候，一定要做相應的優化，很多網路需要進行簡化以後才能在一個資源受限的邊緣場景進行使用。這就催生了網路壓縮技術。
邊緣訓練碎片化非常明顯，這就導致軟體遷移成本很高，這就要求軟體工具能實現對不同的硬體平台的適配，這也是開發人員尤其是邊緣人工智慧應用開發人員對於軟體的要求。
如果我們在邊緣部署人工智慧應用的時候，這些數據在進行使用的時候如何進行保護是一個非常重要的話題。比如在存儲的時候可以通過加密的方式進行保護，但是在運行時態這些數據被存儲在內存里的時候，如何保護這些數據，使得跟其他的應用之間有一個安全邊界，彼此隔離，這是實現安全解決方案時必須要考慮的問題。
英特爾的完整軟硬體解決方案
面對這些挑戰，英特爾提供的是面向邊緣人工智慧、網路、數據中心的完整硬體和軟體解決方案。尤其在人工智慧方面，英特爾提供了從計算、通訊到存儲等一系列的產品，供開發人員進行選擇。
英特爾提供包括CPU、GPU及各種人工智慧晶片等多種產品的組合，滿足用戶對人工智慧算力不同的要求，例如第四代英特爾至強可擴展處理器集成了級矩陣擴展技術AMX技術，對於矩陣運算進行直接加速，提高利用通用處理器進行人工智慧推理或者是人工智慧訓練的能力。同時藉助SGX技術在運行時態為關鍵的數據和程序提供一個有別於其他應用的安全可執行的區域，使得人工智慧應用可以部署在比如像金融、醫療等等這些對於安全有比較強訴求的應用行業里。
張宇說，大集群的性能不僅僅取決於計算能力，同時取決於通訊能力和存儲能力。針對人工智慧大模型的訓練和推理，英特爾在今年推出第二代Gaudi處理器，它不僅能提供大量的算力，同時能提供通訊能力。英特爾還提供可編程的以太網交換晶片等等數據中心的產品以及網路產品，幫助企業構建軟體定義的網路。
除了豐富的硬體產品組合，英特爾還提供了豐富的軟體工具，比如Geti平台、OpenVINO套件。其中，OpenVINO包含兩個關鍵組件，一個是模型開發器，一個是推理引擎。開發人員的應用只需要開發一次，利用OpenVINO的適配能力，就可以把這個應用部署在不同的硬體平台之上，這樣可以極大地降低軟體開發成本。
OpenVINO保持了每個季度一個版本的方式不斷進行疊代，而且已經開源，在新的OpenVINO版本即2023.0的版本里，也增加了對AIGC新技術的加持。
張宇說，OpenVINO從無到有、從小到大，從一個關注於國內的AI技術，到兼顧國內、國外AI技術的發展，它的覆蓋面和關注度在不擴大，使OpenVINO可以更好賦能國內和國際的人工智慧開發人員。
同時，英特爾在行業方面也做了大量的工作，比如在智能製造領域英特爾跟合作夥伴利用機器視覺把實時性和智能化結合起來推動業務轉型。
在智能製造的缺陷檢查中，不同工廠、不同行業的缺陷特徵差異非常大，很難用一個模型把所有要檢測的特徵都提煉出來。這個時候邊緣訓練往往是增量訓練，也就是在一個已有訓練集的基礎之上，通過新增樣本集實現增量的訓練。針對這種情況，英特爾會通過白皮書或者行業解決方案的形式為行業提供參考實現，推動邊緣智能的部署落地。
「人工智慧正在加速在行業中的落地，比如智能零售對顧客喜好的洞察，運營商在5G網路服務中引入人工智慧實現對客戶體驗的增強。英特爾通過先進的軟硬體產品組合和解決方案助力行業和企業加速人工智慧的開發和落地應用，以進一步推動人工智慧蓬勃發展。」張宇最後說。
