據悉,Numenta採用了一種新穎的方法來提高CPU性能,毫無疑問的,對整個科技行業來說,這意味著AI硬體軍備競賽的最新轉折。
Numenta已經證明,通過應用一種最新方法,英特爾CPU在人工智慧工作負載上的性能可以遠遠超過目前最好的CPU和GPU。據Serve the Home報道,這家初創公司使用了一系列基於這一理念的技術,並以Numenta智能計算平台(NuPIC)為品牌,在人工智慧推理方面解鎖了傳統CPU的新性能水平。
真正令人驚訝的是,它的性能明顯優於專門為處理人工智慧推理而設計的GPU和CPU。例如,Numenta採用了Nvidia報告的A100 GPU性能數據的工作負載,並在增強型48核第四代Sapphire Rapids CPU上運行。在所有場景中,根據總吞吐量,它都比Nvidia的晶片更快。事實上,它比第三代Intel Xeon處理器快64倍,比A100 GPU快10倍。
利用神經科學提升人工智慧性能
Numenta作為一家成立於2005年的公司,專門致力於複製人類大腦的功能,並將其用於人工智慧領域,其創始人創始人傑夫·哈金斯是美國著名發明家、電腦科學家和神經科學家,美國工程院院士。2004年,他出版了一本科普著作《On Intelligence》,把人工智慧這個陌生概念播撒到無數人的心裡。
事實上本次突破也是其經過長達17年的深入大腦研究,NuPIC標誌著其終於邁出了這一人工智慧領域重要的里程碑,將AI的處理效率提高100倍,並為開發人員和企業提供了更高的靈活性和控制權,同時確保了數據的安全性和隱私性。
此前的十幾年間,Numenta以其受神經科學啟發的人工智慧工作負載方法而聞名,它嚴重依賴稀疏計算的理念——這就是大腦在神經元之間形成連接的方式。
如今,大多數CPU和GPU都是為密集計算而設計的,尤其是人工智慧,這比大腦神經元工作的模式更加「暴力」。儘管眾多事實證明這是提高性能的必由之路,但CPU卻無法以這種方式良好工作。這就是Numenta發揮作用的地方。
這家初創公司希望通過將其「秘密武器」應用於通用CPU,而不是專門為處理以人工智慧為中心的工作負載而構建的晶片,從而釋放人工智慧模型中稀疏計算的效率增益。
雖然它可以在CPU和GPU上工作,但Numenta採用了Intel Xeon CPU,並應用了其高級矢量擴展(AVX)-512和高級矩陣擴展(AMX),因為英特爾的晶片是目前最可用的。這些是x86架構的擴展——作為額外的指令集,可以讓CPU執行更苛刻的功能。
Numenta使用Docker容器提供NuPIC服務,並且可以在公司自己的伺服器上運行。如果它在實踐中發揮作用,這將是重新利用數據中心中已部署的CPU來處理AI工作負載的最佳解決方案,特別是考慮到Nvidia業界領先的A100和H100 GPU的等待時間較長。