论坛What’s New最近的留言成员 论坛 问答与开发者 开发者专区（API、微调、部署） Notifications Clear all 开发者专区（API、微调、部署） API 调用、模型微调与生产部署的技术讨论。 RSS订阅 页 2 / 3 上一个 1 2 3 下一个 Votes & Answers Question Question Status 0 0 12 什么是 Speculative Decoding？本地能明显加速吗？ 发布者 pandaadmin, 6 天 前 个回复 0 0 0 9 KV Cache 是什么？为什么上下文一长显存就爆？ 发布者 pandaadmin, 6 天 前 个回复 0 0 0 8 Flash Attention 对本地推理有帮助吗？我需要手动开吗？ 发布者 pandaadmin, 6 天 前 个回复 0 0 0 11 Prompt Caching / 系统提示复用：本地 API 能省算力吗？ 发布者 pandaadmin, 6 天 前 个回复 0 0 0 8 本地 Agent 工具调用与 MCP Server：从哪起步？ 发布者 pandaadmin, 6 天 前 个回复 0 0 0 8 LangChain / LlamaIndex 在纯本地栈怎么用比较稳？ 发布者 pandaadmin, 6 天 前 个回复 0 0 0 8 向量库怎么选：Chroma、Qdrant、Milvus Lite？切分与混合检索注意什么？ 发布者 pandaadmin, 6 天 前 个回复 0 0 0 8 怎么把本地模型变成 OpenAI 兼容的 API 给程序调用？ 发布者 pandaadmin, 6 天 前 个回复 0 0 0 12 本地 RAG（检索增强问答）该怎么搭？有哪些步骤？ 发布者 pandaadmin, 6 天 前 个回复 0 0 0 10 RAG 里的 Embedding 模型怎么选？中文场景有什么推荐？ 发布者 pandaadmin, 6 天 前 个回复 0 页 2 / 3 上一个 1 2 3 下一个 Share:
