英特爾昨(18)日公布全球最大神經形態(neuromorphic)系統,代號Hala Point,搭載上千顆Loihi 2處理器,具備高性能且比現行AI系統更可持續發展、環保。
Hala Point號稱是第一座支持主流AI應用的大規模高性能神經形態系統,實現類人腦運算。神經形態運算模擬人腦結構和功能,神經形態系統及其晶片,則是以人工神經元模擬大腦神經元,希望能模擬高性能但低能耗的人腦運行,強調更為節能、可持續發展。
在規格上,Hala Point搭載1,152顆Intel Loihi 2處理器,和Meteor Lake晶片一樣以Intel 4處理節點製造。Hala Point是以Intel第一代大型研究系統Pohoiki Springs為基礎發展,但神經元量及性能都比前代提升最高為10倍及12倍。上千顆Loihi 2處理器包含11.5億神經元及1,280億突觸,提供140,544神經元運算核心。此外,它還搭載了2,300顆嵌入式x86處理器輔助運算,總功耗為2,600瓦。
Loihi 2處理器是英特爾2021年推出的7納米晶片,專為神經形態運算設計。該公司引用論文指出,Loihi在小型邊緣的影音及信號轉換運算任務中,效率及速度超過前代及競爭晶片。
圖片來源/英特爾
以實體體積而言,Hala Point相當輕巧,可安裝在微波爐大小的6U數據中心機櫃中,但Hala Point具備高性能。它的大規模並行計算架構內集成了處理、內存和通信信道,總內存帶寬達到16 PB/S,而核心間通信及晶片間通信帶寬也分別有3.5PB/s及5TB/s。在AI運算上,則支持最高每秒20 petaOPS,執行傳統深度神經網路時,每秒每瓦執行15 TOPS,超越GPU和CPU的性能水準。而應用在訓練神經網路模型時,Hala Point可以全力啟動超過千億的神經元,速度是人類大腦的20倍,最高可提升到200倍。
Hala Point現已部署在美國能源局下的桑迪亞國家實驗室(Sandia National Laboratories),後者將用它進行「大腦規模」的科學運算研究,包括解決半導體組件物理學、電腦架構、電腦科學及資訊學。
這座系統仍為原型,但未來支持多種商業化的AI即時持續性學習,像是解決科學與工程問題、運籌、智慧城市基礎建設管理、大型語言模型(LLM)及AI助理等。