Gemma Local Deployment Guide: Run Gemma 4 and Gemma 3 with Ollama, Sized by VRAM
Gemma local deployment with Ollama: compare Gemma 4 e2b, e4b, 12b, 26b and 31b sizes and context, pick one by VRAM, and set thinking mode, sampling, and fixes.
Gemma local deployment with Ollama: compare Gemma 4 e2b, e4b, 12b, 26b and 31b sizes and context, pick one by VRAM, and set thinking mode, sampling, and fixes.
gpt-oss local deployment with Ollama and llama.cpp: official memory needs for 20b and 120b, MXFP4, MoE offload flags, and reasoning effort.
AMD 显卡跑本地大模型怎么配?对照 Ollama 官方支持列表,讲清 ROCm 与 Vulkan 后端、RX 7900 XTX 与 9070 XT 的显存带宽、环境变量和排错。
KV cache 显存占用怎么算:公式、7B 到 70B 模型的算例、f16 与 q8_0、q4_0 缓存的区别、Ollama 的默认上下文,以及显存不足时的处理办法。
Gemma 本地部署教程:用 Ollama 运行 Gemma 4 与 3,对照 e2b、e4b、12b、26b、31b 的体积与上下文,按显存选版本,附思考模式与排错。
gpt-oss 本地部署教程:用 Ollama 与 llama.cpp 运行 20b 和 120b,对照官方内存需求、MXFP4 量化、MoE 卸载参数与推理强度设置。
本地大模型编程怎么搭:Ollama 加 Continue 扩展,按显存选 Qwen Coder 版本,补全、聊天、智能体分工,以及上下文长度与速度的常见坑。
本地大模型 隐私说明:哪些数据真正留在本机,哪些环节仍可能泄露,需要检查的 Ollama 与 Open WebUI 设置,以及一份可直接照做的检查清单。
本地知识库搭建怎么做?用 Ollama 配 Open WebUI 或 AnythingLLM 做 RAG:嵌入模型、切块、上下文长度与常见坑,数据全程留在本机。
把 Mac mini 做成本地大模型服务器:M6 与 M5 Pro 的带宽差异、内存档位怎么选、Ollama 对外服务设置、不休眠与开机自启,以及每 GB 参考价对比。