藍色巨人在IBM Cloud中構建起Vela超級電腦，旨在幫助科學家創建並優化新的AI模型。
AI技術離不開強大的性能基礎。IBM AI Research一直在研究新的數字與模擬處理器技術，希望藉此加速AI處理速度。此次，藍色巨人宣布在IBM Cloud中構建了一套包含60個機架的大型AI超級電腦，專門支持內部科學家和工程師。這項投資再次證實了AI技術對於研究企業的重要意義。可以想見，IBM未來可能會利用ChatGPT這類工具幫助客戶群體、提升服務產品的運行效率。
最新公告
IBM研究院表示，他們已經在華盛頓特區的IBM Cloud基礎設施內部署了一台包含60個機架的超級電腦，專門用於支持基礎模型方面的研究。每個節點包含8個英偉達A100 GPU和80 GB HMB。IBM拒絕透露各機架安裝有多少個節點，但可以肯定的是藍色巨人這次是砸下了重金。有趣的是，IBM並沒有使用HPC中常見的高成本網路互連，而是輕鬆通過100 Gb以太網卡承載了各節點間的通信。
IBM還決定設計一個基於虛擬機的集群接口，而沒有採用性能水平更高的裸機配置。IBM在博文中解釋道，「我們也曾思考，到底要如何在虛擬機內部實現相當於裸機的性能？經過大量研究和發現，我們設計出一種方法，將節點上的所有功能（GPU、CPU、網路和存儲）都公開到虛擬機內，這樣就能讓虛擬化的資源開銷低於5%。根據我們無意間了解到的行業情況，這已經是最低水平了。」Vela還被原生集成至IBM Cloud的VPC環境當中，因此AI工作負載可以直接與當前200多種IBM Cloud服務隨意對接。
IBM研究人員正在使用這套雲端超級電腦，深入探究基礎模型的執行和行為方式。最近一段時間，大語言模型已經一次又一次撼動整個行業。OpenAI打造的ChatGPT甚至在很多人眼中成為了AI版本的「iPhone時刻」。這類模型不需要監督，但卻要耗費海量算力。例如，由微軟Azure託管的OpenAI超級電腦就搭載10000個英偉達GPU。
IBM目前正傾注心力，希望幫客戶建立起親自使用這些模型的能力。除了需要占用大量資源的訓練環節之外，整體流程中的數據準備、模型調整和推理處理等工作，也都拉高了客戶的理解和實施門檻。
從下圖可以看到，IBM的目標是對特定模型版本進行定製，確保其滿足特定業務需求，並將基礎模型託管在雲端。ChatGPT採用的是GPT3，這套模型自2021年之後就沒有重新訓練過了。IBM能不能找到可靠的模型更新或定製方法，又迴避成本可能高達數百萬美元的重新訓練？看來藍色巨人對自己很有信心。
總結
我們最初聽說IBM AI Research時，就對他們在實驗室中使用的低精度數字AI處理器，以及用於推理/訓練的模擬計算基礎研究印象深刻。到現在，我們才真正理解該部門關注此類技術的根本原因：基礎模型就是未來，IBM希望引領自己的客戶群體在充分的準備之下，大規模擁抱和部署這些模型——可能是客戶的本地基礎設施中，也可以在IBM Cloud或者其他公有雲上。總之，在這個AI模型為王的新時代，IBM表示自己必須占據一席之地。
