外媒報道，創業公司CentML Inc. 致力提高人工智慧模型性能，宣布完成2,700萬美元融資。投資方由Google母公司Alphabet Inc. 旗下Gradient Ventures創業公司基金領投，英偉達、德勤創投公司 (Deloitte Ventures)、湯森路透創投公司 (Thomson Reuters Ventures) 和積極創投公司 (Radical Ventures ) 跟投。
CentML由多倫多大學人工智慧研究人員2022年創立，主要開發開放源碼工具Hidet，提高人工智慧模型推理性能，降低運行成本。CentML已開始進行第二個開放源碼項目，專注加速人工智慧訓練。
CentML表示，Hidet是編譯器，或說允許開發人員將源碼轉換為功能程序的工具，針對處理神經網路代碼優化。構建AI模型時，Hidet可再優化，以幫助提高模型的推理性能。
因工具加速神經網路使用「算子融合」技術優化程序代碼。算子是人工智慧模型組件，除了其他任務，還負責決定人工智慧模型的哪些人工神經元如何參與制定計算任務。Hidet可將多個運算符「融合」到單一程序代碼組件，通過減少將數據在內存的移動需求提高性能。
CentML強調，工具將編譯的AI打包到所謂CUDA核心。這些程序代碼片段經過優化，可在Nvidia的GPU運行。CUDA核心主要特點是分布大量GPU核心，提高性能，且軟體可加速人工智慧模型，而不會降低準確性，或要求開發人員手動更改程序代碼。先前計劃使Meta Platform Inc. 開源Llama 2模型運行速度提高三倍。CentML也指一些用戶已完成更大性能改進。
除了加速處理時間，人工智慧模型加速還可降低基礎設施成本。如果神經網路的性能提高一倍，它就可使用以前一半GPU以達和以前相同速度處理數據量，代表著企業必須為人工智慧訓練購買的晶片數量減少，應對市場供應不足問題。
除了Hidet，CentML還提供另一種名為DeepView的開放源碼工具，允許開發人員監控人工智慧模型訓練，並找到加速過程的方法。DeepView目的在優化使用PyTorch人工智慧開發框架構建的神經網路。
Nvidia CUDA和編譯器軟體總監Vinod Grover表示，生成式人工智慧紅火為開發人員、研究人員和科學家創造新基礎，尋求利用加速運算完成一系列功能。CentML致力以最有效的方式優化GPU人工智慧和語言訓練模型，有助這些人創造更快更輕鬆的體驗。
CentM L計劃將融資投資產品開發和研究計劃。目前有30名員工，將僱傭更多員工支持發展。
(首圖來源：shutterstock)
