Windows WSL2 Docker 本地大模型部署:在容器里用 NVIDIA 显卡跑 Ollama
Windows WSL2 Docker 本地大模型部署:装 WSL 2、共用 NVIDIA 驱动、用 –gpus 在 Docker 跑 Ollama、设内存上限,并对比原生版。
Windows WSL2 Docker 本地大模型部署:装 WSL 2、共用 NVIDIA 驱动、用 –gpus 在 Docker 跑 Ollama、设内存上限,并对比原生版。
内存和显存对本地大模型有何不同:带宽如何决定速度,CPU 卸载怎样拆分模型,70B 模型的速度上限推算,以及什么时候多买内存才有用。
树莓派 跑大模型到底行不行?对比树莓派 5 与 Jetson Orin Nano Super 的内存带宽、可用模型、价格,以及何时该改买二手显卡或迷你主机。
RTX 5060 Ti 16GB 跑本地大模型:16GB 能装什么、推算速度上限、10,853 元参考配置,以及与二手 3090 的对比。
3090 4090 5090 跑大模型怎么选:对比显存、带宽、功耗和价格,给出推算速度上限和一条清晰的购买规则。
RTX PRO 6000 工作站装机指南:96GB 显存能跑什么、整机参考价、推算速度上限,以及什么时候更便宜的方案更合适。
小团队共享本地大模型指南:为多人使用估算显存,配置账号与权限,对比硬件档位,并说明何时该换 vLLM 或云服务。
vLLM 教程:什么时候该用 vLLM 或 SGLang 而不是 Ollama,PagedAttention 与连续批处理的原理,安装与启动命令,以及显存规划方法。
Dify 和 RAGFlow 本地部署指南:硬件要求、Docker Compose 步骤、对接 Ollama、嵌入模型怎么选,以及两个平台如何取舍。
家用 AI 服务器怎么搭:硬件分档、Docker 部署 Ollama 与 Open WebUI、NAS 如何配合、外网访问方式,以及必须做的安全设置。