今日阿里巴巴達摩院迎來里程碑時刻——今年3月發布的RISC-V旗艦CPU玄鐵C950,成功原生運行通義千問3.8-27B大模型。這是RISC-V架構晶片首次在不依賴GPU、無需任何模擬層或二進制翻譯技術的前提下,直接驅動270億參數級別的AI大模型。

玄鐵C950基於5nm先進工藝打造,是一顆64位伺服器級RISC-V處理器。晶片集成64個高性能計算核心,每8核一組通過高速AMBA CHI總線互聯,最高主頻達3.2GHz。晶片內部直接集成了專為AI推理負載優化的矩陣加速引擎與向量加速引擎。該晶片採用8指令譯碼寬度和16級流水線設計,訪存頻寬較上一代玄鐵C920提升4倍以上。在SPECint2006整數性能基準測試中,單核得分突破70分,刷新全球RISC-V CPU性能紀錄。

在實際運行表現方面,玄鐵C950運行通義千問3.8-27B模型時,解碼速度達到每秒30個token,首Token延遲控制在1.9秒以內。相比之下,傳統方案運行同等規模模型通常需要16GB至24GB獨立顯存支持。玄鐵C950僅靠CPU本體加片上加速引擎即可完成推理,無需外接獨立顯卡。

在生態層面,RISC-V的開源特性賦予其獨特的戰略優勢。與依賴x86或ARM架構需要支付高昂授權費用的模式不同,阿里巴巴同時掌控千問模型家族、雲計算基礎設施和玄鐵晶片架構,實現了從晶片設計到模型推理的全鏈條自主可控。

玄鐵C950的成功首秀,標誌著開源RISC-V架構正式邁入伺服器級高性能AI計算領域,為AI基礎設施的多元化發展開闢了全新道路。






