Forum

Notifications
Clear all

LangChain / LlamaIndex 在纯本地栈怎么用比较稳?

0 帖子
1 Users
0 Reactions
9 查看
0
[#63]
Topic starter

【官方常见问题精选】欢迎补充和追问。

两者都是编排框架:切分文档、向量检索、拼提示、调用 LLM。本地时把 LLM、Embedding、向量库都指到本机服务即可。

稳妥建议:

  • 先跑通「Embedding + 向量库 + 直接提示」,再上复杂 Agent;链路越长越难排查。
  • 版本组合要锁定;框架升级常改接口。
  • 日志里打印检索到的片段,避免「框架很忙、其实没检索到」。

框架不能魔法提升弱模型;检索质量与提示设计往往更关键。欢迎贴最小可复现配置(脱敏)。


Share: