本地大模型装机配置：从入门到 32GB 的四档配置单
核对说明：显卡价格为 2026-10-30 在 readygpu.com 读取的美国市场标价快照，波动极大，仅供参考；国内渠道的部件价格见下文“参考整机价格”一节，按 2026-10 市场中位价估算。装机建议基于公开资料和显存计算，不是我们的实测跑分。
很多人想自己装一台跑大模型的电脑，却不知道从哪里下手：显卡买多大？内存要多少？电源会不会不够？这篇文章给出一份本地大模型装机配置的思路：先用要跑的模型决定显存档位，再围绕显卡配 CPU、内存、电源、硬盘和机箱，并给出四档配置单、价格快照和避坑清单。如果你更想先了解显卡本身，请先看《本地大模型显卡推荐》。
本地大模型装机配置的核心思路：先定显存，再配其他
跑本地大模型，显存是硬门槛：它决定模型能不能完整放进显卡。CPU 和内存影响加载速度和显存放不下时的兜底表现，但不决定“放不放得下”。所以装机顺序是：
- 确定你想跑的模型规模（参考《大模型显存需求怎么算》）。
- 选能放下它的显卡档位。
- 围绕显卡配电源、CPU、内存、硬盘、机箱和散热。
PromptQuorum 的硬件指南给出的经验是：有独立显卡时，CPU 和内存是次要部件；CPU 建议 8 核或以上，内存至少 16GB，硬盘建议 500GB 以上的 NVMe 固态。CanRun 的测试条件则以 32GB 内存为基准，24GB 以上显卡的机器，我们建议至少配 32GB 内存。
四档装机配置总览
| 档位 | 显存 | 代表显卡 | 能舒服运行 | 内存建议 | 电源建议 | 参考整机价（估算） |
|---|---|---|---|---|---|---|
| 入门 | 12GB | RTX 3060 12GB | 8B–14B 级模型 | 16GB 起，建议 32GB | 按显卡官方建议 | 约 7,900 元 |
| 主流 | 16GB | RTX 5060 Ti 16GB | 14B–20B 级模型 | 32GB | 600W 级（5060 Ti 官方建议） | 约 10,900 元 |
| 进阶 | 24GB | RTX 3090 / RTX 4090 | 27B–32B 与 30B MoE | 32GB 起 | 750W–850W | 约 14,300 元（二手 3090）/ 33,200 元（4090） |
| 旗舰 | 32GB | RTX 5090 | 同上，加上更长上下文与 Q8_0 的 27B | 64GB 更稳 | 1000W 级 | 约 65,700 元 |
“舒服运行”的判断来自 CanRun 对常见模型的 8k 上下文估算：例如 Qwen3 14B 约 10.5GB，12GB 卡（可用约 11.4GB）能放下；Qwen3.6 27B 约 17.2GB、Gemma 4 31B 约 19.5GB，24GB 卡（可用约 23.4GB）能放下。更小的 8GB 档位玩法见《8GB 显存跑大模型》。
参考整机价格：按 2026-10 市场中位价估算
参考价（按 2026-10 市场中位价估算，以实际报价为准）：下表把各部件在 2026 年 10 月中下旬多个渠道（京东、淘宝、中关村在线、什么值得买、广州电脑城行情、闲鱼挂牌中位价聚合站）的公开报价取中位数后相加得出，不含显示器、外设、操作系统授权和运费。它是估算，不是我们的报价。每个部件的来源、日期和置信度都记录在我们整理的价格参考表里，需要可以联系我们索取。
| 档位 | 主要部件（中位价，元） | 合计（元，约） |
|---|---|---|
| 入门 12GB | RTX 3060 12GB 新卡 3,475；i5-12600KF 900；H610M 主板 499；DDR4 32GB（16GB×2）1,150；1TB SSD 1,025；650W 电源 350；散热器与机箱 500 | 7,900 |
| 主流 16GB | RTX 5060 Ti 16GB 5,599；i5-14600KF 1,300；B760M 主板 929；DDR4 32GB 1,150；1TB SSD 1,025；650W 电源 350；散热器与机箱 500 | 10,900 |
| 进阶 24GB（二手 3090） | RTX 3090 二手 7,550；i5-14600KF 1,300；B760M 929；DDR4 32GB 1,150；2TB SSD 1,800；850W 电源 1,070；散热器与机箱 500 | 14,300 |
| 进阶 24GB（RTX 4090） | RTX 4090 26,465；其余部件同上 | 33,200 |
| 旗舰 32GB（RTX 5090） | RTX 5090 新卡 53,500；R7 9700X 1,339；B650M 主板 1,499；DDR5 64GB（32GB×2）5,900；2TB SSD 1,800；1000W 电源 1,199；散热器与机箱 500 | 65,700 |
读这张表要注意三点。第一，显卡和内存涨得很快：10 月 27 日的行情报道称主流型号两天内又涨了约 8%–10%，所以实际价格很可能比表里更高。第二，二手 3090 的报价差距很大：闲鱼挂牌中位价约 9,350 元，而论坛和社区里报的实际成交多在 5,500–8,000 元，表里取的是这几个口径的中位数，买二手务必验货。第三，同一块 RTX 3060 12GB，10 月下旬渠道价从约 2,950 元涨到约 4,000 元，我们取两者中位。具体配置和报价请联系我们确认。
显卡价格快照（2026-10-30，美国标价）
| 显卡 | 显存 | 带宽 | 新品标价 | 二手标价（起） | 功耗/电源建议 |
|---|---|---|---|---|---|
| RTX 3060 12GB | 12GB | 360GB/s | 约 $370 | 约 $300 | 按官方建议 |
| RTX 5060 Ti 16GB | 16GB | 448GB/s | 约 $618 | 约 $725 | 180W，建议 600W |
| RTX 4060 Ti 16GB | 16GB | 288GB/s | 约 $780 | 约 $650 | 按官方建议 |
| RTX 5070 Ti | 16GB | 896GB/s | 约 $1,460 | 约 $1,330 | 按官方建议 |
| RTX 3090 | 24GB | 936GB/s | 约 $1,698 | 约 $1,599 | 建议 750W |
| RTX 4090 | 24GB | 1008GB/s | 约 $2,073 | 约 $3,300 | 450W，建议 850W |
| RTX 5090 | 32GB | 1792GB/s | 约 $5,654 | 约 $6,450 | 575W，建议 1000W |
提醒三点：第一，这是美国市场标价快照，不代表国内渠道价格，国内估算价见上文“参考整机价格”；第二，PromptQuorum（2026-10-17 更新）提到显存和内存价格受短缺影响仍在上涨，价格波动会比较大；第三，二手标价偶尔高于新品标价，购买二手务必验货，流程见《本地大模型显卡推荐》。
入门档：12GB 显存的装机思路
12GB 的 RTX 3060 是性价比最高的入门显卡之一。CanRun 估算它可用约 11.4GB，Qwen3 14B 约需 10.5GB，刚好放下，但余量很小，上下文需要控制在 4k–8k。这一档适合：日常问答、写作润色、学习与实验、小范围的文档问答。
配置建议：8 核以上 CPU；内存 16GB 起，想同时开浏览器和开发工具建议 32GB；500GB 以上 NVMe 固态硬盘；电源按显卡官方建议，选质量可靠的品牌。这一档的装机预算主要花在显卡之外的“平台”上，按 2026-10 中位价估算，一台入门整机约 7,900 元，其中显卡约占 44%，参考价见上文，以实际报价为准。
主流档：16GB 显存的装机思路
16GB 是目前很多人的“甜点”入门：RTX 5060 Ti 16GB 的美国新品标价快照约 $618，功耗只有 180W，电源 600W 即可。16GB 可以放下 14B–20B 级模型，并给上下文留出更宽裕的空间。
但要注意带宽：RTX 5060 Ti 的 448GB/s 与 RTX 4060 Ti 16GB 的 288GB/s 差距明显，容量相同的卡生成速度可能差很多（带宽越高通常越快，但我们没有实测）。内存建议 32GB。
进阶档：24GB 显存的装机思路
24GB 是个人用户的主力档位：27B–32B 稠密模型和 30B 级 MoE 都能完整放进显卡，详细的模型清单见《24GB 显存跑大模型》。这一档的装机重点是电源、机箱和散热：RTX 4090 官方 450W、建议电源 850W，RTX 3090 建议电源 750W。机箱需要容纳大尺寸显卡，风道要通畅。
选 3090 还是 4090，取决于预算和你对生成速度的要求。两者容量相同，4090 带宽更高。具体价格见上方快照。
旗舰档：32GB 显存的装机思路
RTX 5090 有 32GB 显存、1792GB/s 带宽，官方功耗 575W，建议电源 1000W。32GB 带来的好处主要是更长的上下文和更高精度的模型：CanRun 估算，在 32k 上下文下 Qwen3 32B 需要 28.7GB，27B 级模型的 Q8_0 约 28.4GB，这些在 24GB 卡上放不下。
但即使是 32GB，Llama 3.3 70B 的 Q4_K_M（CanRun 估算 45.2GB）也放不下。如果你的目标是 70B 级模型，应考虑多卡、大容量统一内存设备，或者以一体机方案咨询，见《大模型一体机选购指南》。旗舰卡价格极高，PromptQuorum 提到其街头价格远高于官方指导价，务必在购买当天核对实时价格。
其他部件怎么配
| 部件 | 建议 | 依据与说明 |
|---|---|---|
| CPU | 8 核或以上的主流桌面 CPU | PromptQuorum 建议；有显卡时 CPU 不是瓶颈 |
| 内存 | 16GB 起；24GB 以上显卡建议 32GB；多任务建议 64GB | 模型一部分落到内存时才会被用到 |
| 硬盘 | 500GB NVMe 起，常换模型建议 1TB–2TB | 一个 7B–8B 的 4 位模型约 4–5GB，30B 级约 19GB |
| 电源 | 以显卡官方建议功率为准，选 80 PLUS 认证品牌 | 3090 建议 750W，4090 建议 850W，5090 建议 1000W |
| 机箱与散热 | 能装下显卡长度，前进后出风道 | 持续高负载会触发降频 |
| 主板 | 至少有一个满速的 PCIe x16 插槽 | 想日后加第二张卡再看插槽间距与供电 |
PromptQuorum 给出的硬盘规划参考是：500GB 能放系统和 1–2 个小模型，1TB 能放 3–5 个模型，2TB 能放十个以上。只做推理时硬盘速度主要影响加载时间。
装机与上线的步骤
- 确认模型与显存：用 CanRun 或本站的显存计算方法确认目标模型。
- 测量机箱：显卡长度、厚度和供电接口位置。
- 组装：按“CPU 与内存上主板 → 装散热 → 装硬盘 → 装主板进机箱 → 装电源 → 装显卡”的顺序，显卡供电接口必须插到底。
- 装系统与驱动：NVIDIA 显卡需要较新的驱动，Ollama 官方要求驱动 550 以上。
- 安装 Ollama 并验证：见《Ollama 安装教程》，加载模型后用
ollama ps确认是100% GPU。 - 压力测试：连续跑 30 分钟以上，观察温度、噪音和稳定性。
装机避坑清单
- 电源只看功率不看品质：大功耗显卡瞬时功耗可能高于标称，别在电源上省钱。
- 供电线没插紧：显卡供电接口要插到底，接口松动会导致掉卡甚至烧毁。
- 机箱放不下：旗舰显卡体积很大，先量再买。
- 买了不适用的二手卡：矿卡、翻新卡、显存虚标都有，必须验货并尽量选有保修的渠道。
- 忘了驱动版本：驱动太旧会导致 GPU 没被使用，详见《Ollama 常见报错》。
- 忽略噪音与散热：长期开机的家用环境，噪音也是成本。
自己装机、买整机，还是买 Mac
| 方案 | 优点 | 缺点 | 适合 |
|---|---|---|---|
| 自己装台式机 | 可升级、性价比高、CUDA 生态完整 | 需要动手、要踩坑 | 愿意折腾的人 |
| 品牌或商家整机 | 省心、有售后 | 配置和价格不透明，需要货比三家 | 想直接用的人 |
| Mac（统一内存） | 低功耗、安静，大内存能放大模型 | 内存不可升级，GPU 只能用约 70% 内存 | 重视安静和功耗的人，见《Mac 跑大模型怎么选》 |
| 一体机（多卡或大内存） | 整套交付，针对团队与私有化 | 价格高，需要核对配置与服务 | 公司或团队，见《大模型一体机选购指南》 |
如果你的使用量很少，也别忘了先算一笔账：云端 API 对轻度用户可能更划算，见《本地部署还是 API》。
常见问题（FAQ）
跑本地大模型最低需要什么配置？
一块 8GB 显存的显卡或 16GB 统一内存的 Apple 芯片 Mac，可以跑 7B–8B 级模型。想舒服使用 14B 以上，建议 12GB–16GB 显存。
内存要多大？
有独立显卡时，16GB 起步，24GB 以上显卡建议 32GB。内存不直接决定能放下多大的模型，但显存放不下时会落到内存，速度大幅下降。
AMD 或 Intel 显卡能装吗？
可以尝试，但软件支持和生态需要提前确认；NVIDIA 的 CUDA 生态最完整。AMD 的情况可参考《Ollama 常见报错》。
装一台 24GB 的机器大概要多少钱？
参考价（按 2026-10 市场中位价估算，以实际报价为准）：用二手 RTX 3090 搭 14600KF 平台、32GB 内存、2TB 固态和 850W 电源，整机约 14,300 元；换成 RTX 4090 约 33,200 元。显卡价格近期波动很大，具体见上文“参考整机价格”一节。
两张显卡能叠加显存吗？
部分软件支持把模型拆到多张卡上，但带来主板、电源、散热和软件配置的额外复杂度，我们没有实测数据，新手建议先用单卡。
装机后怎么确认真的在用 GPU？
加载模型后运行 ollama ps，PROCESSOR 一列显示 100% GPU 即可。
下一步与社区
装机的难点往往不是“买什么”，而是“怎么搭才不踩坑”。欢迎把你的预算和用途发到社区（加入社区），大家一起讨论。我们在深圳做本地大模型机器的选型、采购、组装与实测，也可以根据你的预算给出配置建议，包含整机或自装方案；先聊需求，不强制购买。