今日，在 Microsoft Build 2023 開發者大會期間，高通技術公司展示了公司最新的終端側 AI 創新，包括在驍龍®計算平台上運行生成式 AI，以及開發者在採用驍龍平台的 Windows 11 PC 上創建應用的新路徑。
高通和微軟確認達成合作關係，將面向消費級和企業級終端、以及工業設備，規模化擴展 AI 能力。Stable Diffusion作為一款文本生成圖像的生成式 AI 模型，參數超過10億，目前已經能夠完全在終端側運行。高通表示，未來幾個月內，包括大語言模型（LLM）在內的參數高達100億的模型將有望在終端側運行。據介紹，終端側生成式 AI 解決方案將查詢和推理轉移到 PC 和手機等邊緣終端。
為了增強高通 AI 軟體棧並幫助開發者打造下一代終端側AI體驗，高通 AI 引擎 Direct SDK 將在Microsoft Build 上首次面向公眾推出。藉助 ONNX Runtime 和高通 AI 軟體棧，如今用戶在使用 5G 版 Surface Pro 9 和聯想 ThinkPad x13s 的時候就可以在其搭載的第三代驍龍 8cx 平台上的 AI 引擎運行 AI 工作負載。
高通技術公司產品管理高級副總裁 Ziad Asghar 表示，為了讓生成式 AI 真正為更多人所接受和使用，許多推理工作需要在邊緣終端上處理。我們擁有行業領先的 AI 硬體和軟體，可以賦能開發者充分利用我們強大的 AI 能力，在搭載驍龍平台的筆記本電腦、手機和其他終端上打造令人驚艷的全新用戶體驗。
AI 的未來既需要終端側 AI，也需要雲端 AI。在終端側運行 AI 應用可提升成本效益、增強隱私性、個性化並降低時延。與僅在 CPU 或 GPU 上進行 AI 工作負載處理比較，驍龍平台集成專用的高通 AI 引擎，處理 AI 工作負載可以更加高效，讓小巧輕薄的設備也能支持終端側 AI。
微軟 Windows 晶片和系統集成公司副總裁 Pavan Davuluri 表示，為了在廣泛的終端和應用領域擴展 AI，雲端和終端側處理缺一不可。通過將微軟在雲端 AI 上的領先優勢以及Windows平台的能力與高通技術公司的終端側 AI 專長相結合，我們將加速由生成式 AI 體驗所帶來的發展機遇。
