最大模型

4090 能跑多大的模型？按 BF16、Q8、Q4 与内存卸载分别计算 24GB 显存的参数上限，对比 8B、32B、70B、MoE 的体积与速度上限，并给出双卡与替代方案。