【官方常见问题精选】欢迎在下方补充你的经验或追问。

选卡时，建议按这个优先级考虑：显存容量 > 内存带宽 > 软件生态 > 算力。

• 显存最重要：显存决定能装下多大的模型，装不下就要用 CPU 分担，速度会大幅下降。粗略来说，12GB 适合 7B～8B 量化，16GB 可以尝试 14B 左右，24GB 级别可以尝试 30B 上下的量化模型，更大的模型通常需要多卡或大内存方案。
• 带宽影响生成速度：逐字生成阶段主要受显存带宽限制，同显存容量下，带宽更大的卡通常更快。
• NVIDIA 生态最省心：CUDA 支持最全面，各种工具和教程最多。AMD 通过 ROCm 或 Vulkan 也能用，但支持程度与型号、系统有关，购买前请确认你要用的软件支持你的型号。
• 二手大显存卡：有人会选二手的上一代 24GB 显卡来换取大显存，性价比可观，但要注意成色、保修、功耗和散热。
• 别忘了配套：电源功率、机箱空间、散热、主板插槽。系统内存建议不低于显存的容量，方便加载大模型。

省钱思路：

• 先用现有设备试用，弄清楚自己想跑的模型规模，再决定买什么。
• 只是偶尔用，租用云 GPU 或直接调用 API 可能更划算。

价格变化很快，这里不列具体价格。你的预算和用途是什么？欢迎留言，大家帮你参谋。