晶片初創公司SambaNova今日宣布，完成10億美元融資，投後估值達110億美元。
本輪F輪融資由General Atlantic領投，另有十餘家機構參與跟投，投資方包括Intel Capital、Vista Equity Partners及摩根大通。此前，SambaNova於今年2月剛完成一輪3.5億美元融資。
SambaNova在2月融資時同步推出了其旗艦產品——推理晶片SN50。公司表示，該加速晶片的吞吐量是英偉達
B200顯卡的三倍以上，峰值速度則達到後者的五倍。
AI模型通過疊代流程生成響應：一組人工神經元分析用戶輸入並生成初步響應，將結果暫存至內存；另一組神經元隨後提取該響應並進行優化，再寫回內存。這一流程反覆執行，直至AI輸出最終答案。
數據在內存之間的頻繁流轉，是生成響應所需時間的主要來源。SambaNova指出，SN50的高性能源於其專為提升片上數據傳輸速度而設計的架構。
SN50由數十個稱為"Tile"的模組組成，每個模組將處理電路與高速SRAM內存緊密集成。內存與處理電路的物理距離極短，大幅縮短了數據傳輸時延，從而加快了推理速度。當某個Tile完成計算後，其結果將直接傳遞至下一個Tile繼續處理。
SN50共使用三種內存類型，Tile中的SRAM是其中之一。此外，SN50還配備了HBM內存池，用於儲存AI模型的活躍權重與KV緩存——這些組件承擔了處理用戶請求的大部分計算工作。晶片還集成了DRAM模組，可儲存多個非活躍神經網路，當應用需要切換AI模型時，晶片能在數毫秒內將神經網路從DRAM加載至HBM。
SambaNova以16晶片集成機架的形式銷售SN50，該產品名為SambaRack SN50，整機功耗約為20瓦，發熱量相對較低，因此可採用標準風冷散熱方案，無需高端GPU伺服器通常配備的液冷系統。
作為本輪融資參與方之一，摩根大通今日宣布計劃採用SN50晶片，同時也將引入上一代SN40晶片，並將兩款處理器整合至其本地推理基礎設施中。
SambaNova表示，本輪融資所得資金將用於擴展晶片產品線、優化機架設計及軟體能力，並加快市場推廣步伐。
Q&A
Q1：SambaNova的推理晶片SN50和英偉達B200相比性能如何？
A：據SambaNova介紹，SN50的吞吐量是英偉達B200顯卡的三倍以上，峰值速度是B200的五倍。SN50採用了將處理電路與高速SRAM內存緊密集成的Tile模組架構，大幅縮短了數據傳輸時延，從而提升了整體推理性能。
Q2：SambaRack SN50機架系統有什麼優勢？
A：SambaRack SN50是由16塊SN50晶片組成的集成機架系統，整機功耗約為20瓦，發熱量較低，可使用標準風冷散熱設備，無需配置高端GPU伺服器通常所需的液冷系統，有效降低了部署和運維成本。
Q3：摩根大通打算怎麼使用SambaNova的晶片？
A：摩根大通宣布計劃採用SambaNova的SN50晶片及上一代SN40晶片，並將這兩款處理器整合至其本地推理基礎設施中，用於在自有數據中心內部署和運行AI推理任務。
