Mac mini 做本地大模型服务器：怎么配置、选哪档内存、能跑多大的模型

Mac mini 体积小、几乎没有噪音、待机功耗低，所以很适合放在书架或网络机柜里，一直开机为全家或小团队提供模型服务。Mac mini 做本地大模型服务器 的关键有三件事：选对内存档位、让服务能被局域网里的其他设备访问，以及保证它不会因为休眠或断电而掉线。这篇文章按我们此前核对的 Apple 官网规格与国行标价，讲清楚 M6 和 M5 Pro 两条产品线的区别、内存该买多大、Ollama 怎么对外提供服务，以及哪些情况下不建议选 Mac mini。基础的 Mac 路线见《Mac 跑本地大模型》。

核对说明：Mac mini 的带宽与国行标价取自我们此前整理的 Apple 官网页面及其转载（2026-10 读取，价格为官方标价而非市场成交价，Apple 近期因内存涨价多次调整配置与价格，下单前请以官网为准）；模型体积中 8B 来自 llama.cpp 官方文档，其余按每十亿参数约 0.61–0.62GB 外推；速度上限由带宽计算，是理论值，不是实测。Ollama 的对外服务设置来自其官方 FAQ。我们没有对 Mac mini 做逐款速度评测。

要点速览（更新于 2026-10-30）

• Mac mini M6 的带宽约 153–170 GB/s，M5 Pro 为 307 GB/s，同样 24GB 内存，生成速度体验会不同。

• 每 GB 内存的参考价：M5 Pro 的 48GB 与 64GB 档比 24GB 档更划算，M6 的 24GB 与 32GB 档价格最低。

• 作为服务器，要设置 OLLAMA_HOST、关闭自动休眠，并且用有线网络。

Mac mini 做本地大模型服务器：先选内存与芯片

Mac 的统一内存同时给 CPU 和 GPU 使用，所以内存容量直接决定能放下多大的模型。下面是我们整理的两条产品线与官方标价（国行，2026-10）。

这些价格是官方标价，不是市场中位价，并且会随内存涨价调整，所以只用来比较各档的相对关系，不要当成最终价格。内存容量要先估算再选，方法见《大模型显存需求怎么算》。macOS 本身和你的其他应用也需要占用内存，所以不要把统一内存全部算给模型，通常要预留数 GB。

带宽决定生成速度。M5 Pro 的 307 GB/s 接近一张 288 GB/s 的 4060 Ti 16GB，而 M6 的 153–170 GB/s 更低。以约 19.7GB 的 32B 模型为例，M5 Pro 的理论上限约 16 tok/s，M6 约 9 tok/s，实际会更低，所以 M6 更适合 14B 以下的模型，M5 Pro 才适合在服务器上长期跑 32B 级别的模型。

把 Mac mini 配成服务器

1. 安装 Ollama：见《Ollama 安装教程》，先在本机用 ollama run 跑通一个模型。
2. 让局域网能访问：Ollama 官方 FAQ 说明，默认只监听本机，需要设置 OLLAMA_HOST 才能对外服务。在 macOS 上用 launchctl setenv OLLAMA_HOST "0.0.0.0:11434" 设置后重启 Ollama。对外开放前要想清楚网络边界，不要直接暴露到公网。
3. 关闭自动休眠：在系统设置的节能选项里，关闭”显示器关闭时自动进入睡眠”之类的选项，并设置断电后自动重启，避免服务意外离线。
4. 使用有线网络：给 Mac mini 接网线，延迟和稳定性比 Wi-Fi 好。
5. 配一个网页界面：用 Open WebUI 给家人和同事提供聊天页面，见《Open WebUI 搭配 Ollama》。
6. 从另一台电脑验证：在局域网内的电脑上访问 http://Mac-mini的IP:11434，看到 Ollama 的响应即成功。

Mac mini 与其他方案的对比

一个预算与档位的判断方法

选档位可以用三步法。第一步，写下你最常用的两三个模型和它们的 4 位量化体积，例如 14B 约 8.6GB、32B 约 19.7GB。第二步，把体积加上上下文缓存和系统占用，一般再预留 6GB 到 10GB。第三步，用这个总数去对照内存档位：如果总数在 20GB 以内，24GB 的机器刚好够用；如果在 30GB 以内，选 48GB 更稳妥；需要同时放两个模型，或者想试 MoE 这类体积更大的模型，才值得考虑 64GB。

价格上要注意，档位之间的升级加价并不线性。以我们读到的标价看，M5 Pro 从 24GB 升到 48GB 约加价 4,500 元，每 GB 的成本反而更低。这意味着如果你预计半年内会想用更大的模型，一次选到 48GB 往往比先买 24GB 再换机器更划算。但这只是参考，因为价格会变化，请以官网为准。

选 Mac mini 之前的三个问题

第一，谁会使用这台服务器？如果只是你自己或家人偶尔使用，M6 的 24GB 或 32GB 已经足够；如果是五个人以上的小团队，就要考虑并发带来的内存与带宽压力。第二，你更看重静音省电，还是更高的速度？Mac mini 在前者上优势明显，在后者上不及高端独显。第三，你能不能接受内存不可升级？如果不能，就要在购买时一步到位，或者改选可以升级显卡的台式机。

多人使用时的内存规划

如果几个人会同时通过 Open WebUI 提问，要记住每个并发请求都会占用额外的上下文缓存。一个简单的规则是：先确认单人使用时内存仍有余量，再逐步增加使用者，用活动监视器观察内存压力是否变黄或变红。一旦出现持续的内存压力，就说明该换小一档的模型，或者限制同时使用的人数。

如果你只想先试试看，也可以先买入门档，把它当作学习和验证用的机器。等确认真的需要更大的模型，再把它转作备用机或客户端，这比一开始就买最高配更稳妥。

常见误区

• 只看内存不看带宽：同样 24GB，M6 与 M5 Pro 的体验差距明显。
• 忘了系统占用：macOS 和其他应用会占用统一内存，模型不能吃满。
• 把 11434 端口直接暴露到公网：Ollama 默认没有认证，只应在可信的局域网内使用，或放在带认证的反向代理之后。
• 以为买得越大越好：预算有限时，先确认你的主要模型是 14B 还是 32B，再选档。
• 没有备份方案：Mac mini 的内存和硬盘不能随意升级，选配置要一步到位。

什么时候不建议选 Mac mini

• 你需要同时服务很多并发用户：统一内存的带宽有限，并发会拖慢每个人的速度，这种情况可以看后面的团队共享方案。
• 你要做微调或依赖 CUDA 的工具：Mac 的支持不如 NVIDIA 完整。
• 你想以后升级显存：Mac mini 的内存是焊死的。

日常运维要点

服务器上线之后，真正花时间的是日常维护。建议固定使用一个版本的 Ollama，更新前先在另一台机器上验证新版本是否影响你常用的模型。每个月检查一次磁盘空间，因为模型文件很容易占满硬盘，可以用 ollama list 查看并删除不再使用的模型。如果你给家人或同事使用，建议设置一个简单的使用约定：哪个模型是默认模型、长文档什么时候用大模型、什么时候用小模型。这样可以避免多人同时加载不同的大模型，导致内存被反复换入换出。

另外，给 Mac mini 配一个不间断电源是值得的小投入，它能让服务在短暂断电时不丢失正在运行的任务，也能保护硬盘。如果你在办公室使用，还要确认它所在的网络是否允许局域网内设备互相访问，有些公司网络默认隔离终端设备。

常见问题

Mac mini 能做本地大模型服务器吗？

能。它体积小、安静、待机功耗低，配合 Ollama 和 Open WebUI 就能给局域网里的设备提供模型服务。

Mac mini 该选 M6 还是 M5 Pro？

M6 价格更低，适合 14B 以下的模型；M5 Pro 的带宽约为 307 GB/s，更适合长期运行 24B 到 32B 的模型。

内存选 24GB、48GB 还是 64GB？

24GB 适合 14B 到 24B 的量化模型，48GB 能放下 32B 并留出上下文，64GB 适合更大的模型或同时加载多个模型。

怎么让别的电脑访问 Mac mini 上的 Ollama？

设置 OLLAMA_HOST 为 0.0.0.0:11434 并重启 Ollama，然后在局域网内用 Mac mini 的 IP 访问。注意不要暴露到公网。

Mac mini 会因为休眠掉线吗？

可能会，需要在节能设置里关闭自动休眠，并设置断电后自动重启。

价格会变吗？

会。文中是官方标价，Apple 近期因内存涨价多次调整价格，下单前以官网为准。

需要帮你选配置

如果你不确定家里或团队该买哪一档，欢迎到社区告诉我们你的预算和想用的模型，也可以发邮件到 admin@microaione.com。整机选购思路见《本地大模型一体机怎么选》。

参考与延伸阅读：Ollama 官方 FAQ（对外服务设置）、Apple：Mac mini 技术规格。