AI 为什么会？⑦ AI 到底什么时候可以相信？

上一篇，我们调查了一个很多人都有过的体验。AI 一本正经地回答，语言流畅、逻辑完整，最后却发现它说错了。行业里，把这种现象叫作 Hallucination（幻觉）。不过，我们也发现，幻觉并不是 AI 在骗人，而是它在信息不足的时候，依然继续生成最合理的答案。于是，一个新的问题来了：

既然 AI 会出错，我们还能相信它吗？

调查现场

今天，我们不做实验，我们换一个场景，假设你有两个朋友，第一个朋友记忆力特别好，几乎什么都知道，但是偶尔会一本正经说错话；第二个朋友知识没那么丰富，但是不知道的时候，一定会说：

我不知道。

你更愿意和谁一起工作？很多人第一反应都会选第二个，可是如果第一个朋友告诉你：

我说的每一句话，你都可以继续追问我为什么。

事情会不会变得不一样？

一、我后来几乎不再问 AI 一个问题

刚开始用 ChatGPT 的时候，我最喜欢问的是：

对不对？

后来，这个问题越来越少。取而代之的是：

为什么？

或者：

你的依据是什么？

刚开始，我觉得这只是提问技巧，后来我发现，它其实改变的是：

人与 AI 的分工。

二、人类最大的优势，从来不是记忆

以前，如果我要查一条法律，或者看一份财报，很多时间都花在找资料上。今天，AI 可以几秒钟帮我完成，但是真正重要的问题从来不是找到资料，而是：

这些资料能不能支撑这个结论？

这一步目前仍然需要人。于是，我越来越觉得，AI 最好的角色不是老师，也不是领导，而是一个能力极强的研究助理。它负责收集、整理、推演和提出可能性，而我负责判断、取舍，并承担最后的责任。

三、真正危险的，不是 AI

很多人担心：AI 会不会骗人，我现在更担心另一件事。

人会不会停止思考。

因为 AI 最大的优势，恰恰也是它最大的危险，它回答得太流畅了，流畅到，我们很容易把“说得像真的”当成“就是真的”。如果有一天，我们开始放弃判断，把所有决定都交给 AI，那真正出问题的，其实不是 AI，而是我们自己。

四、后来，我给自己定了一条规则

现在，只要 AI 给出一个重要结论，我都会追问两个问题，第一个：

为什么？

第二个：

你的依据是什么？

很多时候，第二轮对话比第一轮更有价值，因为 AI 真正厉害的地方，不是第一句话，而是它能够陪你一直推理下去。

五、AI 最好的用法，不是相信它

写到这里，我越来越觉得，很多人其实一直把 AI 用错了。他们希望 AI 给答案，我更希望 AI 帮我找到问题，他们希望 AI 替自己思考，我更希望 AI 帮我暴露自己的思维漏洞。于是，我慢慢形成了一个新的习惯：

把 AI 当成一个讨论对象，而不是答案提供者。

这个变化，远比学会几个 Prompt 更重要。

调查笔记 No.7

今天，我们推翻了第七个认知。

❌ AI 最重要的价值，是告诉我正确答案。

✅ AI 最重要的价值，是帮助我更快、更全面地思考问题。

AI 可以帮助我们收集信息、整理思路、提出假设，但最终负责判断的人始终应该是我们自己。

当前掌握的线索

• AI 会根据 Context 回答问题。
• AI 学习的是规律，而不是答案。
• AI 不会先判断自己知不知道。
• AI 会产生幻觉。
• AI 最适合作为思考伙伴，而不是最终裁判。

下一步调查

既然人与 AI 最好的关系是合作，那么为什么有的人使用 AI 效果特别好，有的人却总觉得：

"AI 怎么越来越笨？"

问题，到底出在哪里？下一篇，我们继续调查。

《AI 为什么会？⑧ 为什么同一个 AI，在不同人手里，差距这么大？》