入门装机跑本地大模型：8000 元左右的 RTX 3060 12GB 主机配置与取舍
如果你想要一台专门跑本地大模型的电脑，又不想一上来就花上万元，入门装机跑本地大模型 最现实的起点是一张 12GB 显存的显卡。我们按 2026 年 10 月底的市场中位价估算，一台 RTX 3060 12GB 加 i5-12600KF 的整机约 7899 元，不含显示器、外设和系统授权。这篇文章把整张配置清单、每个部件的取舍、这台机器实际能跑什么模型、以后怎么升级都讲清楚。显存多大才够用，可以先看《显存多大才够用》；更完整的配置梯度见《本地大模型装机配置》。
核对说明：价格取自我们 2026-10-30 整理的参考价格表（中位价，大多数部件只有 1 个来源，3060 新卡有 2 个来源），不是报价；显卡价格近期波动很大，同一周内国内新卡 3060 12GB 出现过约 2950 元和约 4000 元两种报价。能跑什么模型取决于量化与上下文，具体文件大小以模型卡为准。我们没有在这套配置上跑评测，因此不给出速度数字。
要点速览（更新于 2026-10-30）
- 参考整机约 7899 元，其中 RTX 3060 12GB 约 3475 元，占 44%。
12GB 显存适合 7B 到 14B 的 4 位量化模型；想要 24GB 请看进阶方案。
省钱的方向是显卡买二手（整机约降到 6474 元，估算），不要在电源和内存上省。
入门装机跑本地大模型：先定显存，再配其他
本地大模型的性能瓶颈首先是显存：模型放不进显存，速度会断崖式下降。所以装机的顺序和一般的游戏机相反：先决定显卡，再用最少的钱配其余部件。12GB 是入门档比较合理的下限：8GB 的卡能跑 7B 到 8B 的模型，但上下文和多任务很紧张，详见《8GB 显存跑大模型》；12GB 则可以稳稳地放下 14B 级的 4 位量化模型，再留出一部分给上下文。
参考配置清单
| 部件 | 型号 | 参考价（元） | 取舍说明 |
|---|---|---|---|
| 显卡 | RTX 3060 12GB（新卡） | 3475 | 入门档里少有的 12GB 显存；近期新卡价格波动大 |
| CPU | i5-12600KF 盒装 | 900 | 推理主要靠显卡，CPU 够用即可；KF 没有核显，需要独立显卡 |
| 主板 | H610M（DDR4） | 499 | 够用的最低成本，扩展性有限 |
| 内存 | DDR4 32GB（16GB×2） | 1150 | 32GB 是起步线，内存不足时模型加载和卸载会变慢 |
| 硬盘 | 1TB SSD | 1025 | 模型文件很占空间，一个 14B 模型就是几 GB |
| 电源 | 650W | 350 | 3060 本身功耗不高，但预留余量以便升级 |
| 散热器 | 风冷 | 250 | 入门平台用风冷足够 |
| 机箱 | 中塔 | 250 | 保证风道，别买空间太小的 |
| 合计 | 7899 | 不含显示器、外设、系统授权、运费与组装测试服务费 |
从图里看，显卡占了整机价格的 44%，内存和硬盘加起来约 2175 元，是第二大头。这也解释了为什么降价空间主要在显卡上：如果买二手的 3060 12GB（参考中位价约 2050 元），整机可以降到约 6474 元，这是估算值，二手卡的风险与验货方法见《二手显卡跑大模型》。
这台机器能跑什么
12GB 显存的实际可用空间要扣除系统与驱动占用，一般还要给上下文缓存留出几个 GB。大致的使用思路是：
| 模型规模 | 4 位量化后体积（大致） | 12GB 是否合适 | 说明 |
|---|---|---|---|
| 7B–8B | 约 5GB | 很宽松 | 可以用较长的上下文，或用更高的量化（如 Q6、Q8） |
| 12B–14B | 约 8–9GB | 合适 | 入门档的主力规模，上下文需要克制 |
| 20B–32B | 约 12–20GB | 放不下或要卸载到内存 | 速度会明显下降，建议升级到 16GB 或 24GB |
| 70B | 约 43GB | 不适合 | 需要大内存主机或多卡，见后续的 24GB 方案文章 |
体积是我们根据常见的模型卡和 llama.cpp 的量化文档（Llama 3.1 8B 的 Q4_K_M 约 4.58 GiB，70B 约 43.1GB）估计的量级。想知道某个具体模型要多少，请用《大模型显存需求怎么算》里的方法，量化的取舍见《Q4_K_M 量化怎么选》。选模型可以参考《本地大模型怎么选》。
为什么这样配
- CPU 不必太强：推理主要在显卡上完成，12 代 i5 完全够用。把预算省下来给显卡更划算。
- 内存至少 32GB：显存不够时，部分层会放到内存里；即使不依赖这一点，加载大模型和同时开浏览器、向量库也都会占用内存。
- SSD 要留余量：模型文件很大，建议至少 1TB，之后可以再加一块。
- 电源别省：650W 对 3060 是足够的，但如果以后想换 3090 之类的大卡，就要换更大的电源。参考价格表里 850W 电源约 1070 元。
- 主板的限制：H610M 是入门主板，内存插槽和扩展口都不多。如果你一开始就想上 24GB 的显卡，建议直接看更高一档的配置。
装机之后的第一天
- 装好显卡驱动，用
nvidia-smi确认 12GB 显存被识别。 - 安装 Ollama，见《Ollama 安装教程》，拉取一个 7B 和一个 14B 的模型对比体验。
- 观察显存占用和温度，确认模型完全在显存里运行，而不是被拆到 CPU 上。
- 把上下文调到你实际需要的长度，看显存是否还够。
升级路线
| 想要什么 | 怎么升级 | 参考成本 | 注意 |
|---|---|---|---|
| 跑 24B–32B 的模型 | 换 16GB 显卡，如 RTX 5060 Ti 16GB | 显卡约 5599 元 | 整机主流档约 10853 元 |
| 追求 24GB 显存 | 换二手 3090，同时换 850W 电源和 DDR4 B760 主板 | 整机进阶档约 14299 元 | 需要验货，见二手显卡文章 |
| 更长上下文与更多并发 | 加内存与更大的 SSD | 视容量而定 | 注意主板插槽数量 |
| 同时跑多个服务 | 保持单卡，换更强的 CPU | 视选择而定 | 推理本身对 CPU 要求不高 |
装机中最常见的几个误区
- 只看显卡算力，不看显存。 游戏卡的排名是按帧数排的，而本地大模型首先看显存容量。一张更新但只有 8GB 的卡，在大模型面前可能不如一张老的 12GB 卡。
- 买了很强的 CPU，却配了小显卡。 推理主要在显卡上，CPU 的钱花在显卡上效果更明显。
- 内存插成单条。 单通道内存会降低带宽，建议两条 16GB 组成双通道，而不是一条 32GB。
- 忽略电源接口。 换更大的显卡时，要检查电源是否有足够的供电接口，而不只是功率。
- 只看新卡价格。 近期新卡价格波动很大，下单前至少多看两三个渠道，并确认是不是真正的新卡和有无保修。
采购顺序建议
如果预算是分几次到位的，我们建议按下面的顺序买：先确定显卡并验货（新卡要确认保修，二手卡要现场测试），再买电源和主板，最后买内存与硬盘。这样做的好处是，显卡一旦出问题，你还没有为其他部件付出沉没成本。另外，装机完成后的第一周，建议连续运行模型至少几个小时，以便在保修和退货期内发现问题。
预算分配的一个小算法
可以用一个简单的办法判断预算是否合理：把整机预算减去 2500 元（粗略留给机箱、电源、散热器、硬盘和主板这些基础件），剩下的钱按“显卡约占六成、CPU 与内存约占四成”分配。以 7899 元为例，扣除基础件后约 5400 元，显卡 3475 元约占 64%，与这个比例基本吻合。这只是一个经验算法，不是标准，你可以根据所在城市的实际报价调整。
不该省的地方，与可以省的地方
不该省：电源品质、内存容量（32GB 起步）、散热风道。这些出了问题会导致死机，而你可能很难判断是不是模型的问题。
可以省：RGB 灯效、机箱外观、CPU 的档位、显示器（先用现有的）。
什么时候不该选这套
- 你的目标是 30B 以上的模型：12GB 会很吃力，请直接看 16GB 或 24GB 的方案。
- 你需要稳定的团队使用：建议看整机和企业级方案，而不是组装入门机。
- 你主要想要一台安静的低功耗机器：Mac 或迷你主机更适合，见《迷你主机跑大模型》。
常见问题
8000 元能装一台跑本地大模型的电脑吗？
按 2026-10-30 的参考价，RTX 3060 12GB 配 i5-12600KF 的整机约 7899 元（不含显示器和外设）。价格波动很快，请以实际报价为准。
3060 12GB 和 4060 8GB 哪个更适合跑大模型？
对本地大模型来说，显存容量比算力更重要。3060 的 12GB 能放下更大的模型，通常比 8GB 的新卡更合适。
12GB 显存能跑 32B 模型吗？
4 位量化的 32B 模型约要 18GB 以上，放不进 12GB，只能把部分层卸载到内存，速度会明显下降。建议升级到 16GB 或 24GB。
内存 16GB 够不够？
勉强能用，但不推荐。同时运行模型、浏览器和知识库时容易吃紧，32GB 更稳妥。
买二手 3060 划算吗？
参考中位价约 2050 元，比新卡便宜约 1400 元。但二手卡没有厂家保修，需要验货，见二手显卡文章。
以后能升级到 24GB 显卡吗？
能，但要检查电源功率、机箱空间和主板，通常需要同时换 850W 级电源。
需要帮你配一套
如果你想要一套我们帮你选好、装好、测好的方案，欢迎加入社区讨论，也可以发邮件到 admin@microaione.com，告诉我们你的预算和想跑的模型。入门路线见《本地部署大模型入门》。
参考与延伸阅读：NVIDIA：GeForce RTX 3060 系列、Ollama 官方文档、llama.cpp：quantize 文档。
