直接回答:幻觉的成因主要有三类:训练数据本身有噪声或过期,模型把"听起来合理"当作"事实";自回归生成本质是概率采样,没有真值校验机制;指令微调让模型倾向于"总是给出回答"而不是承认不知道。工程缓解要分层面做:数据侧用 RAG 把事实依据实时注入上下文;生成侧约束输出必须带引用、降低采样温度;校验侧用规则或二次模型调用核对关键事实。

展开解析:具体手段按性价比排序:第一,RAG + prompt 明确"仅依据资料作答,资料没有就说不知道",这是知识问答场景的基线;第二,要求模型输出引用编号,引用可直接程序校验是否存在,还能给用户溯源;第三,temperature 调到 0~0.3,事实型任务别用高采样;第四,关键字段做结构化输出加 schema 校验,数值类结论可用"让模型先摘录原文再总结"的两步链;第五,高风险场景加自检环节(self-check:让模型逐条核对答案与资料是否一致)或人工审核兜底。要接受幻觉无法根除,只能按业务风险分级管控——医疗、金融场景必须有人审环节。

追问方向:RAG 为什么也不能完全消除幻觉?什么是对齐税?如何用评测集量化幻觉率?

(约 450 字)