開放源碼軟體解決方案供應商Red Hat近日宣布，已簽署收購Neural Magic的最終協議。Neural Magic為提供能加速生成式AI推論工作負載的軟體與算法企業，其在推論性能工程的專業技術及對開源的承諾與Red Hat的願景一致，致力於在跨混合雲環境中的任何一處皆能實現高性能AI工作負載，並滿足客戶特殊的應用場景和數據。
儘管生成式AI的前景在當今科技領域中已占據主導地位，然而構建具成本效益且可靠的LLM服務，企業需要大量的計算資源、能源，以及專業的運營技能，Red Hat就是希望能夠藉由vLLM的開源創新賦能更多企業更易於使用生成式AI。vLLM是由社交媒體驅動的開源項目，專注於開放模型服務，支持所有主要模型系列、先進的推論加速研究及多種硬體後端。結合Neural Magic在vLLM項目中的領導地位與Red Hat的混合雲AI技術產品組合，將為企業提供一條開放的途徑，打造能滿足獨特需求的AI策略，無論數據位於何處皆可實現。
Neural Magic於2018年自麻省理工學院獨立，旨在開發高性能的深度學習推論軟體。Neural Magic的技術和性能工程專業加上Red Hat的AI技術產品組合，將驅動Red Hat加速實現AI未來願景。Red Hat為突破大規模企業級AI的挑戰，運用開源創新進一步推動AI變革的力量，包括：
Neural Magic憑藉在vLLM領域的專業知識，致力於構建企業級推論堆棧，以協助客戶於跨混合雲環境中優化、部署並擴展LLM工作負載，且能充分掌控基礎架構選擇、安全原則和模型生命周期。Neural Magic也構建LLM Compressor進行模型優化研究，其為以先進的稀疏性和量划算法優化LLM的集成式涵式庫，此外也維護經預先優化、可運用vLLM即時部署的存放庫。
Red Hat AI旨在通過強大的技術協助客戶降低AI成本及技能門檻，其中包含：
Red Hat將藉由Neural Magic在vLLM技術的領導地位，強化支持LLM部署的AI能力，賦能跨混合雲環境中隨時隨處部署，並提供現成、高度優化且開放的推論技術堆棧。
此交易需經監管機構審查和其他慣例成交條件而定。
