群聯與聯發科共同宣布,通過群聯創新AI運算服務「aiDAPTIV 」,與聯發科領先生成式AI服務平台「MediaTek DaVinci」深度集成,共同開創AI運算與應用服務新時代,加速普及生成式AI至日常生活。
「MediaTek DaVinci」平台是聯發科基於GAI服務框架 (GAISF) 打造的先進生成式AI服務開放式平台,開發者可在「MediaTek DaVinci」平台開發各類實用插件,創建豐富的生態系統,同時提升用戶的互動體驗。群聯「aiDAPTIV 」服務方案,獨特SSD集成AI運算架構,將大型AI模型進行結構性拆分,並與SSD協同運行。這種方法不僅大幅降低了AI基礎建設的硬體成本,還提高運算效率,使有限GPU與DRAM資源下也能訓練大型AI模型。
「aiDAPTIV 」技術已在工業4.0領域獲實證,也將持續協助各產業加速AI轉型,提升企業競爭力。相較傳統AI伺服器架構,群聯「aiDAPTIV 」方案相同AI模型微調訓練運算條件下,整體電力較少,也符合減少能源消耗和碳足跡的環保趨勢。
「aiDAPTIV 」方案已協助國立陽明交通大學廖元始教授的客台語AI提升識別準確度,與聯發科「MediaTek DaVinci」結合,拓展「aiDAPTIV 」應用範疇,為AI服務市場注入新動力,不僅有更優質體驗,也為開發者開闢更廣闊的創新空間。
群聯與聯發科合作效益有:
1. 創新的AI運算架構:「aiDAPTIV 」模型結構分拆並與SSD協同,支持更大型AI模型訓練。
2. 提升成本效益:降低AI服務硬體構建成本,使AI應用更廣泛且經濟。
3. 提升「MediaTek DaVinci」平台擴展性:結合「aiDAPTIV 」後,為開發者提供更多樣定製化插件的開發可能性。
4. 加速部署終端AI應用:通過結構性拆分AI模型,「aiDAPTIV 」快速適應不同應用需求。
5. 更符合ESG趨勢的解決方案:「aiDAPTIV 」降低AI模型微調運算的總電力需求,減少能源消耗和碳足跡,符合環保趨勢。
通過群聯「aiDAPTIV 」方案與聯發科「MediaTek DaVinci」平台合作,AI伺服器廠商提供完整終端軟硬體集成方案,使AI伺服器產品更具競爭力,為終端客戶提供一站式AI服務。
(首圖來源:群聯)