大模型一体机价格怎么看：2026 年选购前要问清的 10 件事
说明：本文的行业数据来自公开媒体报道（钛媒体“半导体产业纵横”2026-10-03 的文章、澎湃新闻 2025 年的报道），我们仅作转述并标明出处，没有自己核实过厂商报价。文中标注为“参考价（按 2026-10 市场中位价估算，以实际报价为准）”的价格，是我们把 2026 年 10 月公开渠道的多个报价取中位数得出的估算，不是任何厂商的正式报价，具体配置与价格请以实际报价为准。本文也不推荐具体厂商，目的是帮你问对问题。
“大模型一体机多少钱”是我们收到的咨询里最直接的问题，也最难直接回答，因为同样叫一体机，价格可以从几万元到上百万元，差别在于它到底能跑什么模型、能同时服务多少人、之后谁来维护。这篇文章讲清楚 大模型一体机价格 背后的几个变量，帮你在询价之前就心中有数。如果你想先判断自己是否真的需要本地部署，请先读《本地部署还是 API》。
什么是大模型一体机
按钛媒体转载的“半导体产业纵横”文章的定义，大模型一体机是集成 AI 加速硬件（GPU 或国产 AI 加速卡）、服务器硬件、推理框架、大模型权重、配套运维与应用平台的一体化设备，开箱即用，面向政府、企业和科研机构做本地私有化部署，省去自行组装服务器、适配框架、调试模型的麻烦。
换句话说，你买的是“硬件加软件加服务”的组合，而不是一堆显卡。这点非常重要，因为价格里有多少是硬件、多少是软件和服务，直接决定了后续的体验。
大模型一体机价格：2025 到 2026 年的市场变化
以下内容转述自上述两篇媒体报道，数字是报道里的说法，不是我们核实的价格：
| 时间 | 报道里的情况 |
|---|---|
| 2025 年春节前后 | DeepSeek R1 走红，60 多家厂商推出 DeepSeek 一体机；671B 满血版机型单台普遍 120 万到 150 万元；使用国产加速卡时因单台显存不够，常需要两台并联，预算接近 400 万元 |
| 2025 年上半年的展会 | 澎湃新闻报道里出现过个人使用的满血版标价 8.98 万元，也有两台满血版 671B 一体机卖到上百万元；同一篇报道指出低价往往来自量化或蒸馏，所以标价不能直接横向比较 |
| 2025 年下半年 | 报道称“满血版卖不动了”，中小厂商成单主力换成 32B 和 70B 机型 |
| 2026 年 | 多数中端设备最多运行 70B 级别模型，轻量 AI BOX 兴起；内存、存储、GPU 芯片相继涨价；满血高端机型采购群体集中在有强合规要求的央国企和金融机构 |
报道给出的“缩水”原因包括：多数用户需求是知识库问答、公文写作，蒸馏的小模型就够用，671B 大部分时间能力过剩；MoE、蒸馏、量化技术成熟，达到同样效果所需参数量变小；高端芯片供给受限；以及内存涨价，使本地部署满血版成本上涨。
怎么理解这个趋势：价格区间很宽的根源是“它到底跑什么”。671B、70B、32B 对硬件的要求至少差一个数量级（澎湃报道里受访者的说法）。所以别问“一体机多少钱”，先问“它跑哪个模型、多大并发”。
三类“一体机”，别混在一起比
| 类型 | 典型形态 | 适合谁 | 价格线索 |
|---|---|---|---|
| 企业级服务器一体机 | 多卡服务器，预装模型与平台 | 有强合规要求、大并发的机构 | 媒体报道的 2025 年满血版为 120 万到 150 万元量级；32B/70B 机型更低。参考价（按 2026-10 市场中位价估算，以实际报价为准）：32B 档约 15 万元（低置信度，公开信息只有“9.9 万起至 20 万级”的概述）；70B 档约 31.98 万元（2025 年 6 月一份 70B 规格 DeepSeek 一体机采购公示的三个候选价 28.75 万、31.98 万、34.8 万的中位数，日期较早）；671B 满血档约 135 万元 |
| 桌面或迷你 AI BOX | 如 NVIDIA DGX Spark、AMD Ryzen AI Max+ 395 机器、Mac | 个人、小团队、部门级试点 | DGX Spark 128GB 版美国官方市场标价 6,950 美元（GPUwerk 页面称 2026-10-11 核对，当时显示缺货；价格已两次上调）；国内参考价（按 2026-10 市场中位价估算，以实际报价为准）：DGX Spark/GB10 128GB 约 4.25 万元（华南现货与渠道报价 3.7–4.4 万元的中位数，2026-10-08 至 10-30），AMD Ryzen AI Max+ 395 128GB 迷你主机约 2.46 万元，Mac Studio（M5 Max）128GB/1TB 官方标价 41,749 元 |
| 自己装机或定制整机 | 一张或多张消费级、专业级显卡加主机 | 想要灵活、预算有限的个人与小团队 | 二手 RTX 3090 的美国挂牌价约 1,599 美元起（2026-10-30，波动大）；整机参考价（按 2026-10 市场中位价估算，以实际报价为准）：24GB 档（二手 3090）约 1.43 万元，16GB 档约 1.09 万元，32GB（RTX 5090）约 6.57 万元，配置明细见《本地大模型装机配置》 |
迷你 AI BOX：几个值得认识的选项
NVIDIA DGX Spark：NVIDIA 官方文档列出 128GB LPDDR5x 统一内存、273GB/s 带宽，1TB 或 4TB NVMe，随机附带 240W 电源，并称可支持最多 2000 亿参数的模型（双机互联可到 4050 亿）。价格方面，GPUwerk 的价格页（2026-10-24 更新）写道：128GB 版在 NVIDIA 美国商店标价 6,950 美元（2026-10-11 核对，缺货），发布时为 3,999 美元，2026 年 2 月涨到 4,699 美元；64GB 版据 NVIDIA 博客 2026-10-23 起通过合作伙伴发售，起价 4,999 美元。价格是第三方页面的转述，且变动频繁，请以 NVIDIA 官方页面为准。
AMD Ryzen AI Max+ 395：Ollama 官方文档的 AMD 支持列表里包含这颗处理器（对应 gfx1151）。它的理论带宽约 256GB/s，实际有效带宽更低。国内参考价（按 2026-10 市场中位价估算，以实际报价为准）：128GB 内存版的迷你主机约 24,600 元（极摩客、零刻、雷神、磐镭四个 128GB 机型报价的中位数，从 21,999 元到 27,999 元不等；内存和存储涨价，同类机型年内涨幅明显）。海外参考：Framework Desktop 128GB 约 3,449 美元（无硬盘），GMKtec EVO-X2 128GB/1TB 约 3,499.99 美元。
Mac：Apple 的 M5 Max 带宽约 460–614GB/s（取决于 GPU 核数，见 Apple 规格页），具体内存档位和价格见《Mac 跑大模型怎么选》。
这几类设备的共同点是“容量大、带宽中等”：能放下更大的模型，但生成速度通常不如 RTX 3090/4090/5090 这类高端独显（4090 约 1008GB/s，5090 约 1792GB/s）。
先算并发，再谈价格
媒体报道里反复出现的一个问题是并发：澎湃新闻 2025 年的报道中，受访的业内人士说，有些十万元级的“满血版”只能做到一个并发；一个百人左右的企业用一体机检索内部知识库，至少要保证 10 个并发。这是受访者的说法，但思路很重要：并发数决定内存需求。
Ollama 官方 FAQ 说明，对同一个模型开启并行请求，相当于把上下文乘以并行数，所需内存也按 OLLAMA_NUM_PARALLEL × 上下文长度 的比例增长。可以用下面的方式做粗估：
总内存 ≈ 模型权重 + 每个并发会话的 KV 缓存 × 并发数 + 运行时开销
假设示例（仅演示算法，以 CanRun 的 Q4_K_M、8K 上下文估算值为基础，按线性放大，真实占用会有出入）：
| 模型 | 权重 | 每个会话 KV（8K） | 10 个并发的估算总量（权重+KV，不含约 0.6GB 运行时开销） |
|---|---|---|---|
| Llama 3.1 8B | 4.6GB | 1.1GB | 约 15.6GB |
| Llama 3.3 70B | 41.9GB | 2.7GB | 约 68.9GB |
也就是说，同样是“10 个并发”，8B 的需求一张 24GB 的卡就能满足，而 70B 则需要 64GB 以上的统一内存或多张卡。这还不包含更长的上下文，具体怎么算见《大模型显存需求怎么算》。
并发之外：首字延迟和上下文
澎湃的报道里还提到，输入文档很长时并发会进一步下降；受访者还提到，业界公认的临界输出速度约为 20 token/秒，10 token/秒就偏慢。所以向厂商询价时，要同时给出“并发数、上下文长度、可接受的首字等待时间”，否则报价没有可比性。
向厂商问清的 10 件事
下面的清单综合了媒体报道里提到的常见陷阱和我们自己的经验判断：
- 具体跑什么模型？ 是原版还是蒸馏版？报道中受访者提到，有的“DeepSeek 一体机”实际跑的是 70B 或 32B 的蒸馏模型，见《DeepSeek 本地部署》。
- 精度是多少？ FP8、INT8、4 比特的效果和硬件需求都不同，量化到 4 比特的“满血”会让用户觉得模型变“笨”（澎湃受访者的说法）。
- 在多大上下文下能达到多少并发？ 要书面写明。
- 首字延迟和生成速度怎么测？ 要求用你的真实任务现场测。
- 推理框架和平台是什么？ 谁负责优化，是否开源可查。
- 模型怎么更新？ 报道提到有厂商重硬件交付、轻后续运维，交付后缺少模型更新服务。
- 数据安全由谁负责？ 隔离、权限、日志、漏洞修复响应。
- 机房与电力要求是什么？ 服务器级设备对机房、供电、温度有要求。
- 总拥有成本是多少？ 钛媒体文章强调隐性成本包括机房供电散热、运维人力、模型版本迭代、推理框架调优和故障维护。
- 能不能先试？ 先用真实负载测，再付款。
什么时候“自己装机”比一体机更合适
如果你的情况是个人或小团队、并发不高、预算有限，或者想自己折腾和升级，自己装机往往更灵活：可以按显存档位选卡，例如 24GB 卡跑 27B 到 35B 的 Q4_K_M 模型，见《24GB 显存跑大模型》；预算和配置怎么搭，见《本地大模型装机配置》和《本地大模型显卡推荐》。它的代价是你要自己负责驱动、散热、故障和升级；这正是“一体机”标榜的价值，只是价格差距很大。
我们能做什么，以及不能承诺什么
我们是一支在深圳做本地大模型机器的团队，做选型、采购、组装和实测。我们能帮你的是：把你的并发、上下文、预算和隐私要求换算成显存与整机配置，给出可落地的配置单，并在交付前用你的真实任务实测。我们不能承诺的是：任何没有经过你自己任务验证的“性能数字”。具体配置方案和报价，欢迎联系我们（admin@microaione.com），我们会按你的需求出配置单；本文不展示任何未经你自己任务验证的“成功案例”，文中的价格都是上文标注的参考价。
常见问题（FAQ）
大模型一体机多少钱？
价格区间极宽。媒体报道的 2025 年 671B 满血版企业级机型普遍在 120 万到 150 万元量级，而迷你 AI BOX 和自己装机的价格要低得多，具体取决于模型、并发和配置。按 2026-10 市场中位价估算：32B 档约 15 万元，70B 档约 32 万元，671B 满血档约 135 万元；DGX Spark 级桌面机约 4.25 万元，AI Max+ 395 迷你主机约 2.46 万元，自己装机约 0.8–6.6 万元。以上是参考价，以实际报价为准。
一体机一定比自己装机好吗？
不一定。一体机的价值是预装软件和售后，但价格里也包含这部分成本。个人和小团队自己装机通常更灵活，企业则要看是否有运维能力。
“满血版”一定要买吗？
多数知识库问答、公文写作这类场景，媒体报道里的看法是蒸馏的小模型就够用。要不要满血版，取决于你的任务，请先用真实任务测试。
DGX Spark 现在多少钱？
NVIDIA 美国商店标价 6,950 美元（GPUwerk 页面称 2026-10-11 核对，当时缺货），64GB 版本据 NVIDIA 博客通过合作伙伴从 4,999 美元起售。国内参考价（按 2026-10 市场中位价估算，以实际报价为准）约 4.25 万元（128GB 版）；价格波动大，请以官方和渠道实际报价为准。
买一体机还要考虑哪些隐性成本？
机房供电散热、运维人力、模型升级、推理框架调优和故障维护，这些在钛媒体的文章里被明确列为常被忽略的成本。
我们人不多，需要一体机吗？
先估算并发和上下文，再决定。人不多、并发低的话，一台 24GB 显卡的主机配 Open WebUI 往往就够，见《Open WebUI 搭建教程》。
下一步与社区
如果你正在为选型发愁，可以把使用人数、同时使用的人数、文档长度、预算范围和隐私要求发到社区（加入社区），我们和其他成员会帮你一起估算。想按这些条件反推整机配置，也可以直接来聊，我们会先帮你判断需不需要买，再谈配置；先聊需求，不强制购买。想看看现有模型怎么选，见《本地大模型推荐》。