【官方常见问题精选】欢迎在下方补充你的经验或追问。

Apple Silicon 采用统一内存，CPU 和 GPU 共享同一块内存，所以能用来装模型的容量比同价位的独立显卡显存更大，这是 Mac 跑大模型的主要优势。

几个要点：

• 内存容量决定能跑多大的模型：系统默认只允许 GPU 使用一部分内存（通常不是全部），所以模型文件加上上下文缓存，最好不要超过总内存的六七成（粗略经验）。高级用户可以调整相关系统参数，但存在风险，请先查资料。
• 速度主要受内存带宽影响：同一代芯片里，Pro、Max、Ultra 等更高规格的带宽更大，生成速度通常更快。基础款芯片可以跑小模型，但跑大模型会比较慢。
• 长提示词预处理较慢：对比高端 NVIDIA 显卡，Mac 在处理很长的输入时往往更吃亏，等待首字时间会明显变长。
• MoE 模型比较合适：总参数大但激活参数少，速度相对可以接受，前提是内存装得下。

工具选择：

• Ollama、LM Studio、llama.cpp 都支持 Metal 加速，开箱即用。
• Apple 的 MLX 框架（如 mlx-lm）针对 Apple Silicon 优化，部分场景速度更好，可以对比测试。

选购建议（粗略）：想舒服跑 7B～14B 量化模型，16GB 起步勉强，24GB～32GB 更从容；想尝试更大的模型，则要考虑 48GB 甚至更高。内存焊死不可升级，宁可买大一点。

欢迎晒出你的机型、内存、模型和速度，供大家参考。