按显存档位粗略对照常见可跑的模型规模(Q4 量化)。这是估算:实际占用还取决于上下文长度、运行时和量化方式(权重 + KV 缓存 + 开销)。
| 显存档位 | 常见可跑的模型规模(Q4 量化) | 来源 |
|---|---|---|
| 8 GB | 7B–8B | CanRun、promptquorum |
| 12 GB | 14B | CanRun、promptquorum |
| 16 GB | 约 20B–24B | CanRun、promptquorum |
| 24 GB | 27B–32B | CanRun、promptquorum |
| 40–48 GB 及以上 | 70B | promptquorum、localllm.in |
数据状态:上表为 2026-10-29 整理的第三方公开估算,来源标签「第三方估算」,尚未经深圳实测核实。核实后将更新并标注日期。深圳实测核实日期:待补充
数据日期:2026-10-29(整理日期) | 最近一次深圳实测核实:待补充