| Topics with their latest replies in reversed order | ||
 |
Flash Attention 对本地推理有帮助吗？我需要手动开吗？ 发布者 pandaadmin 7 天 前 | 最近一次发帖: 7 天 前 |
|
|
|
Prompt Caching / 系统提示复用：本地 API 能省算力吗？ 发布者 pandaadmin 7 天 前 | 最近一次发帖: 7 天 前 |
|
|
|
本地 Agent 工具调用与 MCP Server：从哪起步？ 发布者 pandaadmin 7 天 前 | 最近一次发帖: 7 天 前 |
|
|
|
LangChain / LlamaIndex 在纯本地栈怎么用比较稳？ 发布者 pandaadmin 7 天 前 | 最近一次发帖: 7 天 前 |
|
|
|
向量库怎么选：Chroma、Qdrant、Milvus Lite？切分与混合检索注意什么？ 发布者 pandaadmin 7 天 前 | 最近一次发帖: 7 天 前 |
|
|
|
用 Docker / Kubernetes 部署本地推理服务要注意什么？ 发布者 pandaadmin 7 天 前 | 最近一次发帖: 7 天 前
论坛
本地部署与硬件算力
|
|
|
|
AWQ、GPTQ 和 GGUF 怎么选？ 发布者 pandaadmin 7 天 前 | 最近一次发帖: 7 天 前
论坛
本地部署与硬件算力
|
|
|
|
AMD 显卡 ROCm、Intel Arc、高通 NPU：本地 LLM 现状如何？ 发布者 pandaadmin 7 天 前 | 最近一次发帖: 7 天 前
论坛
本地部署与硬件算力
|
|
|
|
Metal 与 Vulkan 后端适合谁？和 CUDA 差在哪？ 发布者 pandaadmin 7 天 前 | 最近一次发帖: 7 天 前
论坛
本地部署与硬件算力
|
|
|
|
笔记本和台式机跑本地模型，怎么选更合适？ 发布者 pandaadmin 7 天 前 | 最近一次发帖: 7 天 前
论坛
本地部署与硬件算力
|
|