让 AI 少胡说八道的四个约束技巧

先建立一个正确预期：语言模型是在预测下一个词，不是在查资料。它没有「我不知道」的天然倾向——不知道时它会生成一个看起来最合理的答案。

所以对策不是「让它别编」，而是限制它编造的空间，并让编造暴露出来。

一、给它材料，让它只在材料里回答

最有效的一条。把资料贴进去，然后明确要求：

「只根据上面提供的材料回答。材料中没有的信息，回答「材料中未提及」，不要根据常识补充。」

这一句能挡掉大部分编造。注意后半句——不加的话它还是会「好心」帮你补。

二、要求它标注出处

「每个结论后面标注它来自材料的第几段。」

这招的价值不只在于你能核对，更在于标注这个动作本身会抑制编造——因为它得找到对应位置。找不到时，模型更倾向于承认没有。

三、把「不确定」变成合法输出

默认情况下模型会觉得必须给答案。你要明确告诉它不给答案也行：

「如果不确定，直接说不确定，并说明缺什么信息才能判断。给出不确定的回答比给出错误的回答更好。」

四、对关键事实做二次核验

涉及数字、日期、人名、法条、价格这类硬事实时，别信单次输出。两个做法：

• 换个问法再问一遍，看两次答案是否一致。不一致基本可以判定不可靠
• 让它反过来论证：「请给出这个结论可能是错的三个理由」

哪些场景必须人工兜底

无论怎么约束，这几类内容都必须人核：

• 具体数字、日期、价格
• 法律、医疗、财务相关的结论
• 引用的文献、条款、链接（编造链接是高发区）
• 任何要对外发布、署你名字的内容

一个简单的判断：如果这条信息错了会有后果，就必须人工核一遍。