高通今日宣布和Meta攜手，致力於優化Meta的Llama 2大型語言模型直接在設備上的執行，不再只能依賴雲計算服務運行。
高通強調，與僅使用基於雲計算的AI部署和服務相比，設備AI部署能協助開發人員以顯著降低的成本，提升用戶隱私、處理安全偏好、強化應用程序可靠性並實現個性化體驗。
高通計劃實現基於Llama 2設備AI部署，以支持打造令人期待的全新AI應用，讓客戶、合作夥伴和開發人員能構建如虛擬智能助理、生產力應用程序、內容創造工具、娛樂等使用案例。這些搭載Snapdragon的全新設備AI體驗，可在沒有聯網的地區、甚至是飛行模式運行。
此外，高通計劃明年開始在搭載Snapdragon平台的設備支持基於Llama 2的AI部署，包括旗艦智慧型手機和PC，讓開發人員即日起可使用高通AI疊層，針對設備AI進行應用優化。高通AI疊層是一套可在Snapdragon平台更有效處理AI的專用工具，即使輕薄小巧設備也支持設備AI。
高通資深副總裁暨技術、規劃和邊緣解決方案業務總經理Durga Malladi表示，生成式AI導入設備，將為各種規模的開發人員降低入門的門檻。為了將生成式AI有效地規模化擴展至主流市場，AI需要同時能在雲計算與如智慧型手機、筆記本、汽車和物聯網設備等邊緣設備運行。
（首圖來源：網路）
