宅中地 - 每日更新
宅中地 - 每日更新

贊助商廣告

X

英特爾上線仿人腦神經形態晶片系統Hala Point 讓AI工作負載更節能

2024年04月18日 首頁 » 熱門科技

英特爾在開發仿人腦神經形態處理器的道路上取得了又一個重要的里程碑,這種處理器有望成為現有處理架構一個更節能的替代方案。

英特爾上線仿人腦神經形態晶片系統Hala Point 讓AI工作負載更節能

英特爾近日表示,已經在美國能源部國家核安全管理局運營的桑迪亞國家實驗室那裡部署了有史以來最大的神經擬態系統,該系統將用於支持未來的、受大腦啟發的AI研究項目,解決與AI模型可持續性相關的挑戰。

英特爾將這個新系統稱為Hala Point,這是英特爾第一代神經擬態晶片系統Pohoiki Springs取得的一個重大進步,神經元容量增加了10倍,性能提高了12倍。

神經形態計算是一種全新的半導體設計方法,專注於構建功能更像人腦的電腦晶片,其基本思想是晶片內的神經元越多,功能就越強大。這種方法借鑑了神經科學的見解,將內存和計算與高度精細的並行性相結合,最大限度上減少數據的移動。

英特爾表示,通過採用異步處理、基於事件的尖峰神經網路、集成內存和計算、以及稀疏且不斷變化的連接等受大腦啟發的計算原理,可以實現能源效率和性能數量級的提高。神經元直接相互通信,而不是通過晶片的板載內存,從而顯著降低了能耗。

對神經擬態計算的需求

英特爾實驗室神經擬態計算實驗室總監Mike Davies表示,神經擬態處理器的主要優勢將體現在AI領域,因為AI領域的計算成本正在以不可持續的速度上升。斯坦福大學發布的「Stanford Institute for Human-Centered Artificial Intelligence AI Report」報告中,揭示了開發最先進的大型語言模型(例如OpenAI的GPT-4和Google的Gemini Pro)需要數百萬美金的成本,並強調了對更高效計算資源的需求。

英特爾上線仿人腦神經形態晶片系統Hala Point 讓AI工作負載更節能

Davies表示,AI成本效率是神經形態計算最明顯的用例之一,「我們需要數據中心附近的發電廠來創建這些模型,很難想像這種情況下如何能夠再提高一個數量級」。

儘管這些研究仍處於前沿發展階段,但英特爾希望自己的神經擬態晶片能夠為與Nvidia公司的競爭鋪平道路,目前Nvidia憑藉自己的GPU在AI處理領域占據主導地位。

他補充說:「這是大自然賦予我們的一個不同的模型,但挑戰在於它是如此不同,以至於它不是一個容易破解的難題。」

底層架構

英特爾表示,英特爾已經通過Hala Point構建了第一個大規模神經擬態晶片系統,可以在主流AI工作負載上展示「最先進」的計算效率。

Hala Point系統將1152個Loihi 2處理器封裝在一個6機架單元數據中心機箱中,該機箱的大小與微波爐差不多。Hala Point系統支持分布在140544個神經形態處理核心上多達11.5億個神經元和1280億個突觸,最大功耗為2600瓦,集成了2300個嵌入式x86處理器,用於處理輔助計算。

英特爾表示,Hala Point系統通過將處理、內存和通信集成到一個大規模並行結構中,可以提供高達每秒16 PB的內存帶寬、每秒11 PB的核間通信帶寬、以及每秒5.5 TB的晶片間通信帶寬。憑藉這種性能水平,該系統每秒可以處理超過380萬億次8位突觸操作,每秒可以處理超過240萬億次神經元操作。

英特爾上線仿人腦神經形態晶片系統Hala Point 讓AI工作負載更節能

在處理傳統深度神經網路方面,Hala Point系統每秒可支持高達30萬億次運算,即30 petaops,效率超過每秒每瓦15萬億次8位運算。英特爾表示,更簡單地說,Hala Point 系統的神經元容量相當於貓頭鷹的大腦或捲尾猴的皮質。

應用領域

英特爾表示,這樣的性能水平超越了晶片製造商競爭對手所製造的最強大的GPU,為解決問題型科學和工程AI應用的實時持續學習等領域的重大突破鋪平了道路,其他潛在的用例包括運行複雜的物流系統、智能城市基礎設施管理和大型語言模型訓練。

英特爾和桑迪亞國家實驗室將使用Hala Point系統來解決優化那些可以通過搜索、規劃和遵循地圖中最短路徑來解決的問題。Davies表示:「我們在這方面看到了最佳的結果。在該領域我們取得了最引人注目的成果,速度提高了50倍,能源節省了100倍。」

Constellation Research分析師Holger Mueller表示,英特爾的神經擬態計算架構似乎是Nvidia GPU一個真正的替代品,後者目前在AI處理領域占據主導地位,但成本過高。

他說:「不可避免的是,最終有人會想出替代方案來挑戰GPU,因為AI帶來的機會太大了,不容錯過。競爭對企業有利,有助於促進創新,所以看看Nvidia要如何應對了。與此同時,很高興看到長期陷入困境的英特爾走在了神經形態計算發展的最前沿。Loihi 2系統看起來非常有前景,但還沒有接近商業化,所以我們還需要一段時間才能看到它是否能真正與Nvidia展開競爭。」

Davies表示,當量子電腦真正可用的時候,神經形態計算有可能帶來與量子電腦預期類似的進步。他說:「不同之處在於量子距離更遠。」因此神經形態電腦可能有利於解決藥物發現和未來類似問題。

桑迪亞國家實驗室最初將使用Hala Point系統進行先進的大腦規模計算研究,重點解決電腦體系結構、電腦科學、設備物理和資訊學等領域的科學計算問題。

英特爾強調,Hala Point仍然是一個研究原型,旨在提升未來商業系統的能力,預計該系統將取得實際突破,可顯著減輕現代AI工作負載的負擔。

宅中地 - Facebook 分享 宅中地 - Twitter 分享 宅中地 - Whatsapp 分享 宅中地 - Line 分享
相關內容
Copyright ©2025 | 服務條款 | DMCA | 聯絡我們
宅中地 - 每日更新