论坛What’s New最近的留言成员 论坛 Unread Posts Notifications Clear all Unread Posts | 论坛 | 话题 最近的留言Unread PostsNot Replied TopicsSolved TopicsUnsolved TopicsClosed TopicsOpen TopicsSticky Topics 页 15 / 17 上一个 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 下一个 Topics with their latest replies in reversed order 本地模型生成速度很慢，有哪些调优办法？ 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 本地部署与硬件算力 How much VRAM do I need to run a 7B, 13B or 70B model locally? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International What do Q4_K_M, Q5_K_S and Q8_0 mean in GGUF model names? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International Ollama vs LM Studio vs llama.cpp vs vLLM: which one should I use? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International I get "CUDA out of memory" when loading a model. How do I fix it? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International My GGUF model fails to load in llama.cpp or Ollama. How do I troubleshoot? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International Is a Mac with Apple Silicon good for running local LLMs? How much memory do I need? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International Qwen, Llama, DeepSeek, Mistral or Gemma: how do I choose a model? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International Is a bigger context window always better? Why does it use so much memory? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International Why does my model seem to forget the conversation or ignore long documents in Ollama? 发布者 pandaadmin 1 周 前 | 最近一次发帖: 1 周 前 论坛 多语言国际区 International 页 15 / 17 上一个 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 下一个 Share:
