用过AI的人基本都遇到过这种情况：它给你一个听起来非常合理、有理有据的回答，但仔细一查，发现是错的。引用的论文不存在，说的API已经废弃，给的数据完全对不上。这就是大模型的”幻觉”问题。

幻觉是怎么来的

大模型本质上是一个根据上下文预测下一个token的系统。它在海量文本上训练，学会了”什么词接什么词最合理”，但它并不真正”知道”什么是真什么是假——它只是在生成听起来最像对的内容。

几种常见的触发场景：

• 知识截止日期之外的信息：它的训练数据有时间限制，超出这个范围的问题它不知道，但不会直接说”我不知道”，而是倾向于给出一个”看起来合理”的回答
• 细节要求过高：让它说某本书第几章写了什么、某个会议的具体讨论内容，它没有精确记录，就可能”补全”一些实际不存在的细节
• 小众领域或冷门信息：训练数据中这类信息少，模型不确定时更容易胡编
• 数字和统计数据：年份、数量、百分比这类具体数字，错误率特别高，不要轻易相信

怎么减少被幻觉坑

对关键信息要验证

凡是需要准确的信息——数据、引用、技术细节——都要去原始来源核实。把AI当草稿工具，而不是权威来源。

让它给出依据

问它”你是从哪里得到这个信息的”或者”有什么参考来源”，有时候能让它意识到自己在猜测，进而给出更保守的回答。当然这个方法不是100%有效，它也可能编一个来源出来。

让它表达不确定性

在提示词里加”如果你不确定，直接说不确定”，可以降低它强行给答案的倾向。比如：

请帮我分析这个问题，如果某些细节你不确定，请明确标注”我不确定”而不是猜测。

用更具体的问法代替开放性问题

“某某技术的原理是什么”这种开放性问题容易出幻觉，改成”请解释某某技术中的X概念，只说你确定的部分”效果更好。

拆分任务，逐步验证

让AI一步步推理，每步都可以检查，比让它直接给最终答案更容易发现问题。

哪些场景幻觉风险高

• 法律法规的具体条款（高风险）
• 医疗用药剂量和禁忌（高风险）
• 具体的历史事件细节（中等风险）
• 技术文档中的API参数和版本（中等风险）
• 通用逻辑推理和代码框架（相对低风险）

用AI提效是完全可行的，但要清楚它的局限——它是个很好的起点生成工具和思维辅助工具，不是百科全书。遇到需要准确的关键信息，多走一步核实，省得后面出问题。