宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

高通推出AI Hub,提供超過75個優化AI模型,縮短開發者開發時間

2024年02月28日 首頁 » 熱門科技

高通推出AI Hub,提供超過75個優化AI模型,縮短開發者開發時間


高通在MWC上更新高通在AI方面的進展,推出全新Qualcomm AI Hub為開發者縮短AI功能開發時間。

全新的Qualcomm AI Hub包含預先優化的AI模型庫,可在搭載Snapdragon和高通平台的設備上無縫部署。這個模型庫提供包括Whisper、ControlNet、Stable Diffusion和Baichuan 7B在內,超過75個熱門的AI和生成式AI模型供開發者使用。

這些模型都已經針對設備上AI的出色性能、更低的內存利用率和更好的能源效率進行了優化,適用於不同的外形規格,並封裝在各種運行時間環境中。每款模型都經過優化處理,充分利用高通AI引擎(NPU、CPU和GPU)中所有核心的硬體加速,使推論速度快4倍。

AI模型庫自動處理從來源框架到熱門運行時間環境的模型轉換,並直接與高通AI引擎指引(Qualcomm AI Engine direct)軟體開發組件(SDK) 配合使用,接著配合硬體達到硬體感知優化(hardware-aware optimization)。

高通推出AI Hub,提供超過75個優化AI模型,縮短開發者開發時間


開發者可將這些模型無縫集成至其應用程序中,縮短上市時間,並且充分發揮實現設備上AI所帶來的優勢,包括即時性、可靠性、隱私性、個性化和節省成本等。

預先優化的模型現已於Qualcomm AI Hub、GitHub和Hugging Face上提供。Qualcomm AI Hub會持續將新模型加入模型庫,並即將支持其他平台和作業系統。只要立即註冊,開發者就能在基於高通技術公司平台的雲計算託管設備上自行運行模型,並優先訪問Qualcomm AI Hub提供的新功能和AI模型。

Qualcomm AI Research首次在Android智慧型手機上運行,展現大型語言和視覺助理(Large Language and Vision Assistant,LLaVA)模型功能,這是一款具有超過70億個參數的大型多模態模型 (LMM),可以接受包括文本和圖像在內的多種類型數據輸入,並能與AI助理生成關於圖像的多輪對話。

這個LMM在設備上以反應靈敏的代碼(token)速率運行,從而增強隱私性、可靠度、個性化和成本。具有語言理解和視覺理解能力的LMM可支持許多使用案例,例如識別和討論複雜的視覺模式、對象和場景。

Qualcomm AI Research還首次展示了在Android智慧型手機上的低秩調整(Low Rank Adaptation,LoRA)。使用LoRA運行Stable Diffusion讓用戶可以根據個人或藝術偏好創造出高品質的定製化圖像。LoRA減少了AI模型的可訓練參數數量,實現更優秀的效率、可擴展性、和定製化的設備上生成式AI使用案例。除了可為不同的藝術風格微調語言視覺模型(LVM),LoRA還可廣泛運用於如大型語言模型等各種定製化的AI模型,打造量身定製的個人助理、改善語言翻譯等更多應用。

Qualcomm AI Research也在Windows PC上展示全球首見在設備上使用超過70億個參數的LMM ,此模型可以接受文本和音頻輸入(例如:音樂、交通聲音等),然後生成有關此段音頻的多輪對話。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新