去年末，Groq與英偉達就其推理技術達成非排他性許可協議，共同推進授權技術的升級與規模化應用。英偉達看中的是Groq的LPU單元，與其他AI晶片依賴於DRAM不同，Groq更多地是依靠SRAM，這有助於加快AI模型的交互，同時也限制了可以服務的模型大小。
據TrendForce報道，隨著AI工作負載對更大儲存容量的需求，晶片製造商正在探索傳統緩存架構的替代方案。有業內人士透露，下一代Groq晶片或改變原本的設計，從SRAM轉向3D堆疊DRAM技術，以提升儲存容量上限。
英偉達在今年的GTC 2026上，發布了Groq 3 LPU，採用了三星4nm工藝製造，屬於Vera Rubin平台的第7款晶片。每顆Groq 3晶片集成了500MB的SRAM和150TB/s的SRAM頻寬，而完整的Groq 3 LPX機架擁有256顆Groq 3晶片，擁有128GB的SRAM和40PB/s的總SRAM頻寬，另外還有12TB的DDR5記憶體，提供了增強的AI推理能力，使得對響應敏感的代理工作負載能夠實現超高速詞元生成。
不過SRAM的容量難以跟上AI模型的發展步伐，每兩年僅增加約10%至20%的容量。相對應的是，AI模型規模可每六到九個月翻一番，使得兩者的差距越來越大，單靠SRAM很難滿足日益增長的容量和頻寬需求。
目前Groq 3 LPU採用了三星4nm工藝製造，同時三星正在與英偉達討論下一代Groq晶片的代工合作。台積電董事長兼總裁魏哲家曾在今年4月的財報電話會議上表示，正在與客戶探討下一代LPU的代工合作。外界猜測，三星和台積電正在爭奪這部分的代工訂單。
