便宜显卡跑大模型：按显存档位选卡，每GB显存和每GB/s带宽花多少钱（2026-10 价格快照）
“便宜显卡跑大模型”到底该买哪张？2026 年 10 月的国内显卡行情和两年前完全不同：16GB 新卡在涨价，3060 12GB 复产后新卡也不便宜，所谓“千元显卡跑大模型”基本只存在于二手市场的运气里。所以这篇文章不按“几千块”硬分档，而是换一个更稳的角度：按显存档位（12GB、16GB、24GB）选卡，并算出每 GB 显存、每 GB/s 带宽各花多少钱，价格全部标注为“我们 2026-10-30 的价格快照”，会变，但算法和排序逻辑不过时。二手选购的风险清单见二手显卡选购指南，价格时机见显卡价格时机，为什么带宽重要见大模型为什么需要GPU而不是CPU。
要点速览（更新于 2026-11-04）
- 按每 GB 显存算，二手 RTX 3060 12GB（约 2050 元）最便宜，约 171 元/GB；二手 RTX 3090 24GB（约 7550 元）约 315 元/GB，是 24GB 档里最便宜的现实选择。
按每 GB/s 带宽算，二手 3060 约 5.7 元，3090 约 8.1 元；新卡 5060 Ti 16GB 约 12.5 元，4090 约 26 元。
两张便宜卡拼显存不等于速度翻倍：按层切分时 GPU 轮流工作，速度上限接近单卡带宽，算例中双 3060 约 18 token/s，单 3090 约 48 token/s。
价格在 2026-10 快速上涨且来源单一，下单前必须重新查价；二手卡低于约 4000 元的 3090 挂单，我们的快照里多被标注为矿卡或暗病卡风险。
我们没有实测这些卡的速度，所有速度是按公式推算的理论上限。
便宜显卡跑大模型：先算清“便宜”该用什么单位
买显卡时只看总价会误导你。跑大模型有两个主要指标：显存容量决定能装下多大的模型，显存带宽决定生成速度上限（解码速度 ≈ 带宽 ÷ 模型字节数，推导见前文）。所以更合理的“便宜”是：
每 GB 显存的价格 = 价格 ÷ 显存容量；每 GB/s 带宽的价格 = 价格 ÷ 带宽。
我们用 2026-10-30 的价格快照（来自多个渠道的报价中位数，二手为闲鱼挂牌价区间中位）和 NVIDIA 官方规格算：
| 显卡 | 价格（元） | 显存 | 带宽（GB/s） | 元/GB 显存 | 元/(GB/s) | 官方功耗（W） |
|---|---|---|---|---|---|---|
| RTX 3060 12GB（二手） | 约 2050 | 12GB | 360 | 约 171 | 约 5.7 | 170 |
| RTX 3060 12GB（新） | 约 3475 | 12GB | 360 | 约 290 | 约 9.7 | 170 |
| RTX 4060 Ti 16GB（二手） | 约 4200 | 16GB | 288 | 约 263 | 约 14.6 | 165 |
| RTX 5060 Ti 16GB（新） | 约 5599 | 16GB | 448 | 约 350 | 约 12.5 | 180 |
| RTX 3090 24GB（二手） | 约 7550 | 24GB | 936.2 | 约 315 | 约 8.1 | 350 |
| RTX 4090 24GB | 约 26465 | 24GB | 1008 | 约 1103 | 约 26.3 | 450 |
价格说明：3060 12GB 新卡报价从 2950 到 4000 不等（复产“全新”卡已涨到约 4000），5060 Ti 16GB 的报价从 5200 到 7000 以上，3090 二手从 6000 到 9350，波动很大；表里取的是我们价格快照文件里的中位价，单一来源的项目（如二手 3060、4060 Ti）可信度较低。功耗为 NVIDIA 官方整卡功耗。
从两张图能读出几个结论：第一，二手 3060 12GB 在每 GB 显存和每 GB/s 带宽上都最便宜，缺点是 12GB 上限低、核心老；第二，二手 3090 是 24GB 档的性价比之王，带宽几乎是 3060 的 2.6 倍，每 GB/s 只比 3060 贵 2 元多，但功耗 350W，要配 750W 以上的电源和足够的散热（电源与散热见装机电源与散热）；第三，4060 Ti 16GB 带宽只有 288GB/s，比 3060 12GB 还低，它的价值是 16GB 容量，不是速度；第四，4090 每 GB/s 约 26 元，是便宜选项的 3 到 5 倍，要的是极致速度，不是“便宜”。
每个显存档位能装什么：先看装得下，再看快不快
显存要装的东西是：模型权重 + KV 缓存（上下文越长越大）+ 运行时开销。权重大小 ≈ 参数量 × 每权重位数 ÷ 8，llama.cpp 量化文档给出 Q4_K_M 约 4.89 位/权重、Q5_K_M 约 5.70、Q8_0 约 8.50、Q6_K 约 6.56。我们按公式算出常见组合：
| 模型与量化 | 权重约（GB） | 推荐最低显存档 | 说明 |
|---|---|---|---|
| 8B Q8_0 | 8.5 | 12GB | 接近未量化精度，留出 KV 缓存 |
| 14B Q4_K_M | 8.6 | 12GB | 12GB 档的主力 |
| 14B Q6_K | 11.5 | 16GB | 12GB 放不下，16GB 可以 |
| 24B Q4_K_M | 14.7 | 16GB（很紧）或 24GB | 16GB 只剩约 1GB 余量，长上下文会爆 |
| 32B Q4_K_M | 19.6 | 24GB | 24GB 档的甜点 |
| 70B Q4_K_M | 43.1 | 单卡放不下 | 24GB 必须卸载到内存，速度大降（见下） |
经验规则：给 KV 缓存和开销预留 1.5–2GB 起（上下文拉长要更多，详见上下文长度与 KV 缓存）。所以 12GB 实际装 14B Q4 是舒服的，16GB 想装 24B Q4 就很勉强。更完整的计算见显存计算器指南。8GB 档的取舍请看8GB 显存本地大模型，24GB 档请看24GB 显存本地大模型。
三条现实的“便宜路线”
路线一：二手 3060 12GB（约 2000 元）。 适合入门，跑 8B–14B 的 Q4/Q8 够用。风险是二手卡可能是矿卡、翻新卡，保修短。整卡功耗 170W，对电源和机箱的要求较低。
路线二：二手 3090 24GB（约 6000–9000 元）。 24GB 能装 32B Q4_K_M，带宽高，是“便宜”但不算便宜的现实最优。我们的价格快照里明确标注：低于约 4000 元的 3090 挂单多为矿卡或暗病卡，请不要被低价吸引。体积大、功耗高、二手风险大，购买前对照二手显卡选购指南的验卡步骤。
路线三：新卡 5060 Ti 16GB（约 5600 元，波动大）。 带宽 448GB/s 高于 4060 Ti，新卡有保修，功耗 180W。但 2026-10 已出现缺货与涨价（快照中报价到 7000 以上），价格需要重新核对，详细分析见RTX 5060 Ti 16GB 跑大模型。预算整机思路见预算入门装机。
两张便宜卡拼起来行不行：双 3060 对比单 3090
“两张 3060 12GB 拼 24GB”听起来很划算：约 4100 元（2×2050）对 7550 元。显存容量确实够 32B Q4_K_M，但速度要算清楚。llama.cpp 默认按层把模型切到不同显卡，每生成一个 token，数据要依次经过两张卡，两张卡的显存带宽并不会叠加，大致等于“轮流读各自那部分权重”。所以速度上限接近单卡带宽：
- 双 3060 跑 32B Q4_K_M（约 19.6GB）：上限 ≈ 360 ÷ 19.6 ≈ 18.4 token/s
- 单 3090 跑同一个模型：上限 ≈ 936.2 ÷ 19.6 ≈ 47.8 token/s
也就是说，省下约 3400 元，换来的是速度上限只有约 38%，还多占一个 PCIe 插槽、多一份电源和机箱压力（2×170W）。如果你更在意“能装下”而不是“速度”，双 3060 是一条可行的路，否则单张 3090 更合理。这是公式推算的理论上限，没有实测，实际还会受 PCIe 通信开销影响。
老数据中心卡（P40 一类）能不能捡漏
Tesla P40 常被拿来说“24GB 便宜”。官方资料里它是 Pascal 架构的数据中心卡，24GB GDDR5，带宽 346GB/s，功耗 250W，被动散热，需要服务器风道或自己改装风扇，也没有显示输出。更需要注意的是软件生命周期：NVIDIA 在 CUDA 13.0 中移除了对 Maxwell、Pascal、Volta 的离线编译与库支持（CUDA 12.x 仍可使用，R580 驱动分支对这些旧架构的支持到约 2028 年中）。这意味着新软件对老卡的优化会越来越少。所以我们的建议是：只有当你愿意折腾散热、供电和软件版本，并明白速度只有同价位新架构卡的一部分时才考虑；它不适合第一次装机的人。我们没有拿到这类卡的可靠国内价格，因此不给价格对比。
其他品牌的便宜选项（只列规格，不比价格）
| 显卡 | 显存 | 带宽（GB/s） | 注意 |
|---|---|---|---|
| Intel Arc B580 | 12GB | 456 | 软件后端成熟度因工具而异，需要自己确认 |
| AMD RX 9060 XT 16GB | 16GB | 320（AMD 官方“最高”） | 部分厂商卡标称略高，ROCm/Vulkan 支持需核对，见AMD 显卡跑本地大模型 |
| AMD RX 7600 XT 16GB | 16GB | 288 | 带宽与 4060 Ti 16GB 相同 |
这些卡的显存规格不错，但我们没有它们的可靠价格快照，也没有实测软件兼容性，所以不下“便宜”结论，只提示：先确认你要用的软件（Ollama、llama.cpp、LM Studio）对该显卡的后端支持，再下单。
买之前的检查清单
- 先确定要跑的模型和量化，算出权重加 2GB 余量，选显存档位。
- 在同一显存档位里比较带宽，不要只看显存大小。
- 二手卡：要求视频验货、跑 30 分钟压力测试、看显存温度，拒绝来路不明的“低价 3090”。
- 核对电源：3090 整卡 350W，建议 750W 以上；双卡要留足 8 针接口。
- 查价：2026-10 价格波动大，下单前至少对比三个来源，并回看价格时机。
我们怎么核对，没做什么
价格来自我们 2026-10-30 汇总的快照文件，由各渠道报价（含闲鱼挂牌、京东与淘宝标价、行情日报）取中位数，部分项目只有单一来源，如VRAMGlass 的 3090 页面；规格来自 NVIDIA 与 AMD 官方页面；P40 与 CUDA 13 的信息来自 NVIDIA 数据手册与技术博客。每 GB 价格和速度上限是我们自己的计算。我们没有购买或实测这些显卡，也没有验证双卡切分的真实速度。
常见问题
高性价比的大模型显卡怎么选？
高性价比的大模型显卡通常按「每 GB 显存价格」和二手行情来比：同预算下，更大显存往往比稍高的算力更实用。注意电源、散热与驱动支持，详见正文低价卡清单。
跑大模型最便宜的显卡是哪张？
按我们 2026-10-30 的价格快照，每 GB 显存最便宜的是二手 RTX 3060 12GB（约 171 元/GB）。如果要 24GB，二手 3090 约 315 元/GB 是最现实的选择，但要注意二手风险。
3060 12GB 和 4060 Ti 16GB 哪个更适合？
3060 12GB 带宽 360GB/s，4060 Ti 16GB 只有 288GB/s。小模型上 3060 速度上限更高，要装更大的模型（如 14B Q6、24B Q4）则需要 16GB。
两张 3060 能当 24GB 用吗？
可以装下约 24GB 的模型，但按层切分时速度上限接近单卡带宽，算例里 32B Q4_K_M 约 18 token/s，是单张 3090 的 38% 左右。
二手 3090 值得买吗？
如果预算在 6000 元以上且能验卡，它是 24GB 档里每 GB 显存最便宜的方案。我们的快照提示低于约 4000 元的挂单多为矿卡或暗病卡，需要极度小心。
P40 24GB 能跑大模型吗？
能装下大模型，但它是被动散热的老架构数据中心卡，NVIDIA CUDA 13 已不再支持 Pascal 的编译，更新的软件对它优化会减少，不适合新手。
新手预算有限，先买什么？
先用现有机器试跑 8B 模型，确认需求后再买。若要买卡，12GB 档先考虑二手 3060，想要更大的模型再看 16GB 或 3090。
想帮你按预算配一套？
欢迎到社区交流，或发邮件到 admin@microaione.com，告诉我们预算、想跑的模型和机箱电源情况，我们按本文的算法帮你排一个方案。
参考资料：NVIDIA GeForce RTX 30 系列（3060/3090 规格）、NVIDIA Tesla P40 产品简介、NVIDIA：CUDA GPU 架构支持指南、AMD RX 9060 XT 规格、llama.cpp 量化文档。价格快照读取日期 2026-10-30，文章核对日期 2026-11-04。
延伸阅读：租GPU还是自己买：回本时间算一算
