Dify 和 RAGFlow 本地部署指南:用 Docker 和 Ollama 搭建团队私有知识库应用
Dify 和 RAGFlow 本地部署指南:硬件要求、Docker Compose 步骤、对接 Ollama、嵌入模型怎么选,以及两个平台如何取舍。
Dify 和 RAGFlow 本地部署指南:硬件要求、Docker Compose 步骤、对接 Ollama、嵌入模型怎么选,以及两个平台如何取舍。
家用 AI 服务器怎么搭:硬件分档、Docker 部署 Ollama 与 Open WebUI、NAS 如何配合、外网访问方式,以及必须做的安全设置。
LLM 评测榜单怎么看:MMLU、GPQA、Arena 投票和 llama-bench 到底测什么,榜单里的陷阱,以及你自己就能做的 20 条提示词测试。
大模型主机供电与散热指南:如何给 AI 电脑选电源、用 nvidia-smi 限制功耗、规划风道和噪音,避开让显卡主机宕机的常见错误。
本地大模型 API 服务搭建指南:把 Ollama 或 llama-server 变成兼容 OpenAI 的接口,用 curl 和 Python 测试,并在局域网里安全地开放访问。
本地微调显存需求详解:Unsloth 文档给出的 3B 到 70B 的 QLoRA 与 LoRA 显存下限、哪些因素会推高占用,以及训练爆显存时的调整手段。
AnythingLLM 教程:安装桌面版或 Docker 版,连接 Ollama,选择嵌入模型,建立工作区,调好 Query 模式,并解决“找不到相关信息”的问题。
DeepSeek R1 蒸馏版尺寸详解:1.5B 到 70B 各是什么模型、Ollama 下载大小、长推理为何多占内存,以及 8GB 到 48GB 显存该选哪个。
手机本地大模型离线运行指南:从 Google AI Edge Gallery 到 MLC Chat、Termux 的五条路线,内存能放下多大的模型,以及发热、电量和隐私的注意事项。
大模型本地部署服务怎么选:远程安装的五个步骤、服务范围与交付物、远程访问的安全要点、验收测试和自己动手的判断标准,附提问清单与常见坑。