显存速查表

按显存档位粗略对照常见可跑的模型规模(Q4 量化)。这是估算:实际占用还取决于上下文长度、运行时和量化方式(权重 + KV 缓存 + 开销)。

显存档位常见可跑的模型规模(Q4 量化)来源
8 GB7B–8BCanRun、promptquorum
12 GB14BCanRun、promptquorum
16 GB约 20B–24BCanRun、promptquorum
24 GB27B–32BCanRun、promptquorum
40–48 GB 及以上70Bpromptquorum、localllm.in

数据状态:上表为 2026-10-29 整理的第三方公开估算,来源标签「第三方估算」,尚未经深圳实测核实。核实后将更新并标注日期。深圳实测核实日期:待补充

数据日期:2026-10-29(整理日期) | 最近一次深圳实测核实:待补充

下一步:显存档矩阵 | 预算装机 | 方法说明