LLM Out of Memory Fix: A Local OOM Troubleshooting Checklist (Ollama and llama.cpp)
LLM out of memory fix for local models: check usage first, then cut context and parallelism, quantize the KV cache, and only then change model or hardware.
-
-
Dify 和 RAGFlow 本地部署指南：用 Docker 和 Ollama 搭建团队私有知识库应用
Dify 和 RAGFlow 本地部署指南：硬件要求、Docker Compose 步骤、对接 Ollama、嵌入模型怎么选，以及两个平台如何取舍。
-
家用 AI 服务器：怎样搭一台给全家用的私有大模型主机（含 NAS 与远程访问）
家用 AI 服务器怎么搭：硬件分档、Docker 部署 Ollama 与 Open WebUI、NAS 如何配合、外网访问方式，以及必须做的安全设置。
-
显存不足怎么办：本地大模型 OOM 排查清单（Ollama 与 llama.cpp）
本地大模型显存不足怎么办？按顺序排查：先查占用，再降上下文和并发，换 KV 缓存与量化，最后才加硬件，附 Ollama 与 llama.cpp 的具体设置。
-
本地大模型 API 服务搭建：把 Ollama 或 llama.cpp 变成兼容 OpenAI 的接口
本地大模型 API 服务搭建指南：把 Ollama 或 llama-server 变成兼容 OpenAI 的接口，用 curl 和 Python 测试，并在局域网里安全地开放访问。
-
内存和显存：本地大模型的 CPU 卸载如何工作，速度代价有多大
内存和显存对本地大模型有何不同：带宽如何决定速度，CPU 卸载怎样拆分模型，70B 模型的速度上限推算，以及什么时候多买内存才有用。
-
树莓派 跑大模型：小板子在 2026 年到底能跑什么，Jetson 值不值得买
树莓派 跑大模型到底行不行？对比树莓派 5 与 Jetson Orin Nano Super 的内存带宽、可用模型、价格，以及何时该改买二手显卡或迷你主机。
-
小团队共享本地大模型：3 到 10 人的容量、权限与成本
小团队共享本地大模型指南：为多人使用估算显存，配置账号与权限，对比硬件档位，并说明何时该换 vLLM 或云服务。
-
AnythingLLM 教程：用 Ollama 在自己电脑上和文档聊天
AnythingLLM 教程：安装桌面版或 Docker 版，连接 Ollama，选择嵌入模型，建立工作区，调好 Query 模式，并解决“找不到相关信息”的问题。
-
DeepSeek R1 蒸馏版尺寸详解：1.5B 到 70B 该按显存怎么选
DeepSeek R1 蒸馏版尺寸详解：1.5B 到 70B 各是什么模型、Ollama 下载大小、长推理为何多占内存，以及 8GB 到 48GB 显存该选哪个。
