设备与模型匹配 4090 能跑多大的模型?24GB 显存的上限:8B、32B、70B 与 MoE 逐一算清 作者microadmin 2026-11-042026-11-04 4090 能跑多大的模型?按 BF16、Q8、Q4 与内存卸载分别计算 24GB 显存的参数上限,对比 8B、32B、70B、MoE 的体积与速度上限,并给出双卡与替代方案。