近日，Reddit社區用戶AdIllustrious7246通過對PS5軟硬體環境的深度改造，在破解後的PlayStation 5主機上成功運行了經過量化壓縮的Qwen 3.8-27B大型語言模型，將這台次世代遊戲主機變成了一台功能完備的本地AI伺服器。
PS5之所以能夠承擔本地AI推理任務，核心優勢在於其記憶體子系統。PS5搭載AMD Zen 2架構CPU和RDNA 2架構GPU，理論算力約為10.3 TFLOPS，在2026年的標準下已不算突出。但PS5採用256位寬GDDR6統一記憶體架構，CPU與GPU共享16GB記憶體，實現了高達448GB/s的記憶體頻寬。
開發者AdIllustrious7246藉助Mesa開源項目中的AMD RADV驅動，通過Vulkan計算接口將llama.cpp打造成PS5原生應用，成功將可用記憶體池從6GB提升至11.4GB，並讓推理引擎能夠調用GPU執行神經網路計算。
實測數據顯示，在GPU滿載運行下，Qwen 3.8-27B模型的生成速度達到每秒20.9個Token，CPU占用率僅為2%。對於更小規模的模型，性能表現更為亮眼：Gemma 4 E4B達到每秒61個Token，Llama 3.2 3B模型則高達每秒124個Token。
整套系統的總功耗約為86W，PS5在滿載運行AI推理任務時溫度穩定維持在54°C。作為參照，在CPU模式下作為載荷運行27B模型、從磁盤流式讀取數據時，生成速度僅約為每分鐘一個Token。GPU加速帶來的提升是數量級的。
