本地 AI 買顯卡,最近很多人卡在同一個問題:新的 5060 Ti 16GB,和二手 RTX 3090,選誰。

只看新舊,5060 Ti 很招人喜歡:新卡、省電、有保修,普通機殼好裝。但只看本地 AI,賬沒這麼簡單。
為什麼忽然想聊這個話題,最近在YouTube上看了 Lon.TV 的影片《This Retail GPU Works Great for Local AI !》。他買了張 ASUS RTX 5060 Ti 16GB,用 LM Studio、AnythingLLM 跑本地模型、圖片分析、文檔問答、代碼生成和 RAG。
他的結論很清楚:對很多普通用戶,16GB 新卡已經夠把本地 AI 跑起來。這點我同意。但我會再往前推一步——如果和二手 3090 只差一兩千,我選 3090。
16GB 夠上手,不夠押長期
Lon.TV 這條不是顯卡橫評,是演示一張 16GB 新卡能幹什麼。跑本地知識庫問答、看圖、分析資料、寫 HTML 小遊戲、Python 爬蟲、RAG 查詢,全都接地氣。大部分人第一次碰本地 AI,要的就是能不能問文檔、能不能看圖、能不能寫點小工具。
這正是 5060 Ti 16GB 的價值:不像 3090 那樣挑電源、散熱、機殼,也不用賭二手成色。官方規格是 16GB GDDR7、4608 CUDA、128-bit,卡長 229mm,建議 550W 電源、單 8-pin。
問題在於,本地 AI 的需求漲得很快。跑 7B、8B 小模型,16GB 夠。一旦上中型模型、長上下文,或者把 RAG、本地知識庫、Agent 工作流都接進來,顯存立刻吃緊。影片也提到模型能在顯存和系統內存之間分擔——但"能跑"和"跑得舒服"是兩回事,一旦頻繁吃系統內存,速度和響應都掉。所以 16GB 是好入門卡,不是好的長期上限。
差價一兩千,我會把錢花在 24GB 上
這是我和影片不一樣的地方。差價大,另當別論;只差一兩千,我寧可買 3090 的 24GB。
24GB 不是心理安慰,它直接決定你能不能裝下更大的模型、能不能給上下文留空間、能不能少依賴系統內存。中型模型越來越多、本地部署越來越常見,20GB 以上顯存的價值只會更明顯。5060 Ti 的優勢是省心,3090 的優勢是餘量。嘗鮮的人看重省心,長期折騰的人看重餘量。
但 3090 不是無腦買
二手 3090 的麻煩很實在:成色不透明,功耗高,散熱壓力大,對電源和機殼要求更高。你要是不懂二手卡、不想查成色、不想擔礦卡和維修卡的風險,5060 Ti 16GB 仍是更穩的選擇。能接受這些麻煩、或身邊有人幫你把關,我才把 3090 放到更高優先級。
至頂AI實驗室洞察
輕量嘗鮮,買 5060 Ti 16GB,省心跑起 LM Studio、AnythingLLM,做文檔問答、圖片理解、輕量代碼任務,沒問題。確定要長期玩——中型模型、長上下文、本地知識庫、複雜 Agent——加錢看二手 3090。
本地 AI 後面真正讓人焦慮的,從來不是新舊,是顯存不夠。






