隨著 ChatGPT 引領的生成式 AI 的興起,On-Device AI 市場正在開放,引起了人們對新型存儲半導體的關注。設備端 AI 是指在不依賴服務器和雲的情況下,在智慧型手機等信息技術(IT)設備中實現 AI 功能的技術。
據業內人士消息,三星電子目前也在開發低延遲寬 IO(LLW)DRAM,並計劃於明年年底量產。LLW 是一種特殊類型的 DRAM,與傳統的內存晶片 LPDDR 相比,它通過擴展輸入/輸出(I/O)路徑來增加帶寬。由於帶寬與傳輸速度成正比,因此這種類型的 DRAM 在處理設備實時生成的數據時效率明顯更高。
三星電子自 2020 年之前就一直在開發輕量級的 On-Device AI 算法,並將其應用於片上系統(SoC)、內存和傳感器,從而增強了其在 On-Device AI 半導體領域的競爭力。預計該公司將於明年開始全面占領市場,首先是其內部開發的生成式人工智慧 Samsung Gauss 的移動產品部署。
此前曾有消息指出 SK 海力士正在面向 Vision Pro 獨家提供 DRAM 存儲晶片,該晶片與 R1 晶片相結合以實現實時高速的高清影片處理。
據了解,LLW DRAM 不僅可用於新一代 XR 終端設備,此外,它還能用於搭載 On-Device AI 的產品當中。與雲端AI不同,On-Device AI 需要直接在設備端執行數億次指令,為了快速處理大量數據而不消耗過多電量,用於增強輔助計算的 DRAM 顯得至關重要。
業內人士預計,繼 HBM 之後,LLW DRAM 市場的擴張將預示著定製內存時代的開始。由於配備 On-Device AI 的設備差異很大,並且每個設備需要不同的功能,因此需要從開發階段與客戶密切合作,以確定生產方法和數量。內存製造商不再大規模生產小品種產品,而是可以採用基於訂單的商業模式,保持定價權並確保穩定的性能。