Notifications
Clear all
本地部署与硬件算力
1
帖子
1
Users
0
Reactions
11
查看
Topic starter
31/10/2026 9:57 上午
【官方常见问题精选】欢迎补充和追问。
NVIDIA CUDA 生态仍是最省心的路径。AMD ROCm、Intel Arc、移动端 NPU 都在进步，但驱动、算子覆盖与教程完整度通常更折腾。
务实建议：
- 买硬件前先查：你目标模型 + 后端（llama.cpp Vulkan/ROCm、IPEX 等）是否有成功案例。
- 笔记本 NPU 更适合小模型与辅助加速，不宜按桌面旗舰卡预期。
- 走 Vulkan/Metal 等通用后端，有时比「官方 ROCm 全开」更容易先跑起来。
欢迎在本区贴型号 + 驱动 + token/s（注明模型与量化）。