AI 为什么会？⑦ AI 到底什么时候可以相信？
上一篇，我们调查了一个很多人都有过的体验。AI 一本正经地回答，语言流畅、逻辑完整，最后却发现它说错了。行业里，把这类“看起来合理、实际错误”的内容叫作 Hallucination（幻觉）。幻觉可能来自训练、材料、检索和推理等多个环节。于是，一个新的问题来了：
既然 AI 会出错，我们还能相信它吗？
调查现场
今天，我们不做实验，我们换一个场景，假设你有两个朋友，第一个朋友记忆力特别好，几乎什么都知道，但是偶尔会一本正经说错话；第二个朋友知识没那么丰富，但是不知道的时候，一定会说：
我不知道。
你更愿意和谁一起工作？很多人第一反应都会选第二个，可是如果第一个朋友告诉你：
我说的每一句话，你都可以继续追问我为什么。
事情会不会变得不一样？
一、我后来几乎不再问 AI 一个问题
刚开始用 ChatGPT 的时候，我最喜欢问的是：
对不对？
后来，这个问题越来越少。取而代之的是：
为什么？
或者：
你的依据是什么？
刚开始，我觉得这只是提问技巧，后来我发现，它其实改变的是：
人与 AI 的分工。
二、后来我发现，“能不能信”问得太大了
让 AI 帮你改一段文案，错了可以重写；让它判断药物剂量、法律责任或者转账金额，错一次的代价完全不同。把这两件事放进同一句“AI 能不能信”里，本身就有问题。
所以，真正应该问的不是：
AI 值不值得相信？
而是：
这个任务能不能核验？如果错了，代价有多大？
以前，如果我要查一条法律，或者看一份财报，很多时间都花在找资料上。今天，AI 可以很快帮我整理，但真正重要的问题从来不是找到资料，而是：
这些资料能不能支撑这个结论？
这些资料能不能支撑结论？来源是不是原始材料？有没有漏掉反例？AI 可以帮忙检查，但它不能替谁承担后果。任务越高风险，最后那一步越需要交给真正有责任、有资质的人。
三、真正危险的，不是 AI
很多人担心：AI 会不会骗人，我现在更担心另一件事。
人会不会停止思考。
因为 AI 最大的优势，恰恰也是它最大的危险，它回答得太流畅了，流畅到，我们很容易把“说得像真的”当成“就是真的”。如果有一天，我们开始放弃判断，把所有决定都交给 AI，那真正出问题的，其实不是 AI，而是我们自己。
四、后来，我给自己定了一条规则
现在，只要 AI 给出一个重要结论，我都会做三件事。第一，问：
为什么？
第二，问：
你的依据是什么？
第三，也是最容易被省略的一步：离开 AI 写得很漂亮的解释，打开它引用的原始材料，自己核对关键数字和原句。
很多时候，第二轮对话比第一轮更有价值。可这里还有一个坑：让 AI 解释得更详细，不等于完成了验证。它也可能为错误答案补出一套漂亮的理由。
解释仍然来自 AI，证据必须来自 AI 之外。
五、AI 最好的用法，不是相信它
写到这里，我越来越觉得，很多人其实一直把 AI 用错了。他们希望 AI 给答案，我更希望 AI 帮我找到问题，他们希望 AI 替自己思考，我更希望 AI 帮我暴露自己的思维漏洞。于是，我慢慢形成了一个新的习惯：
把 AI 当成一个讨论对象，而不是答案提供者。
这个变化，远比学会几个 Prompt 更重要。
调查笔记 No.7
今天，我们推翻了第七个认知。
❌ AI 最重要的价值，是告诉我正确答案。
✅ AI 最重要的价值，是帮助我更快、更全面地思考问题。
AI 可以帮助我们收集信息、整理思路、提出假设。任务越难核验、错误代价越高，人类复核和专业责任就越不能省略。
当前掌握的线索
- AI 的回答来自训练形成的能力和当前 Context。
- AI 既会记住，也会归纳规律。
- AI 可以表达不确定，但不一定校准准确。
- AI 会产生幻觉。
- AI 最适合作为思考伙伴，而不是最终裁判。
下一步调查
既然人与 AI 最好的关系是合作，那么为什么有的人使用 AI 效果特别好，有的人却总觉得：
"AI 怎么越来越笨？"
问题，到底出在哪里？下一篇，我们继续调查。
《AI 为什么会？⑧ 为什么同一个 AI，在不同人手里，差距这么大？》