Forum

模型「幻觉」在本地能不能治好?有哪些务...
 
Notifications
Clear all

模型「幻觉」在本地能不能治好?有哪些务实手段?

1 帖子
1 Users
0 Reactions
11 查看
(@pandaadmin)
会员 Admin
已加入: 6 天 前
帖子: 161
Topic starter   [#53]

【官方常见问题精选】欢迎补充和追问。

幻觉(一本正经地编造)是生成式模型的通病,本地开源模型也不能「根治」,只能降低风险。

务实手段:

  • 知识类问题优先 RAG:检索到的原文片段约束回答,并要求「不确定就说不知道」。
  • 降低温度、限制胡乱发挥;对事实题用更擅长遵循指令的模型。
  • 对关键结论做引用与二次校验(工具调用、计算器、数据库查询)。
  • 评测集里专门放「易幻觉」题,发版前回归。

不要把本地模型输出直接当法律/医疗/财经结论。欢迎分享你有效的提示词与护栏。



   
引用
Share: