论坛What’s New最近的留言成员 论坛 最近的留言 Notifications Clear all 最近的留言 | 论坛 | 话题 最近的留言Unread PostsNot Replied TopicsSolved TopicsUnsolved TopicsClosed TopicsOpen TopicsSticky Topics 页 15 / 17 上一个 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 下一个 Topics with their latest replies in reversed order 本地模型生成速度很慢，有哪些调优办法？ 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 本地部署与硬件算力 【官方常见问题精选】欢迎在下方补充你的经验或追问。 先搞清楚慢在哪里：是“首字等待久”（提示词预处... 1 周 前 发布者panda... How much VRAM do I need to run a 7B, 13B or 70B model locally? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International [Official FAQ] Share your experience or follow-up ... 1 周 前 发布者panda... What do Q4_K_M, Q5_K_S and Q8_0 mean in GGUF model names? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International [Official FAQ] Share your experience or follow-up ... 1 周 前 发布者panda... Ollama vs LM Studio vs llama.cpp vs vLLM: which one should I use? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International [Official FAQ] Share your experience or follow-up ... 1 周 前 发布者panda... I get "CUDA out of memory" when loading a model. How do I fix it? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International [Official FAQ] Share your experience or follow-up ... 1 周 前 发布者panda... My GGUF model fails to load in llama.cpp or Ollama. How do I troubleshoot? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International [Official FAQ] Share your experience or follow-up ... 1 周 前 发布者panda... Is a Mac with Apple Silicon good for running local LLMs? How much memory do I need? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International [Official FAQ] Share your experience or follow-up ... 1 周 前 发布者panda... Qwen, Llama, DeepSeek, Mistral or Gemma: how do I choose a model? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International [Official FAQ] Share your experience or follow-up ... 1 周 前 发布者panda... Is a bigger context window always better? Why does it use so much memory? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International [Official FAQ] Share your experience or follow-up ... 1 周 前 发布者panda... Why does my model seem to forget the conversation or ignore long documents in Ollama? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International [Official FAQ] Share your experience or follow-up ... 1 周 前 发布者panda... 页 15 / 17 上一个 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 下一个 Share:
