AI 为什么会？⑤ AI 为什么不会说"我不知道"？

上一篇，我们调查了一个很多人都听过，却很少真正理解的问题。

为什么预测下一句话，会产生智能？

最后，我们发现，大模型学习的并不是一堆标准答案，而是这个世界的各种规律。那么，一个新的问题来了，既然它已经学会了这么多规律，为什么还会犯一些看起来非常低级的错误？更准确地说：

为什么它不会直接告诉你："对不起，我不知道。"

调查现场

今天，请你打开 ChatGPT。不要问它数学题，也不要让它写代码。问一个只有你自己知道答案的问题。例如：

我昨天晚饭吃了什么？

或者：

我的办公室有几把椅子？

大多数模型都会告诉你：

我不知道。

很好，现在，请换一种问题。例如：

《红楼梦》第 121 回里，贾宝玉是不是说过："人生最大的遗憾，就是错过真正爱你的人？"

如果你没有读过《红楼梦》，很难判断这句话是真是假。很多 AI 会开始一本正经地分析人物、情节，甚至引用根本不存在的内容。看到这里，你可能会觉得奇怪，刚才那个问题，它会说不知道，为什么现在，它又开始"编"了？

一、它到底是在什么时候决定回答的？

这是我一直想不通的问题，人类回答问题之前，脑子里通常会多一个步骤。别人问我：

去年巴西的咖啡出口量是多少？

我的第一反应不是回答，而是先判断：

我知道吗？

如果不知道，我会直接说：

不知道。

这是一个我们每天都在做、却几乎意识不到的过程。

先判断自己知不知道。

然后，才决定要不要回答，于是我开始想，ChatGPT 会不会也是这样？它是不是也会先判断：

"这个问题我会。"

或者：

"这个问题我不会。"

后来我发现，答案是否定的。

二、AI 根本没有"知不知道"这个开关

这是整个调查过程中，我觉得最反直觉的一个发现，上一篇我们已经知道，大模型一直都在生成。它不会先把答案全部想好，而是一边生成，一边继续生成。那么，它什么时候停下来判断：

我会不会？

答案是：

没有这个步骤。

对于 AI 来说，看到问题以后，它做的第一件事不是判断，而是开始生成，它不会先召开一个"内部会议"，讨论这道题有没有把握，也不会先搜索自己的记忆，再决定是否回答，它只是开始预测：第一句最合理是什么。第二句最合理是什么。

第三句最合理是什么，一直往下生成，这一点，和人类完全不同。

三、人类和 AI 的一个本质区别

后来，我想到一个很形象的比喻，假设你参加一场考试，看到一道不会做的题，人类通常有两种选择，第一种。老老实实写：

不会。

第二种：尝试猜一下，但心里很清楚。

我是在猜。

AI 不一样，它没有这种心理活动。它不会意识到：

"接下来我要开始猜了。"

它只是继续生成那个它认为"最合理"的答案。至于这个答案是真实存在，还是只是看起来合理，它自己并不会额外做一次判断。

四、这才是问题真正的源头

很多人会说：

AI 会一本正经地胡说八道。

以前，我也觉得这是 AI 最大的缺点。后来我发现，这其实只是一个结果，真正的问题发生得更早。

它没有"知道自己不知道"这个过程。

一旦进入生成，它就会一直生成下去，如果眼前的信息足够，它可能答得很好，如果眼前的信息不足，它依然会努力生成一个最合理的答案，于是，有时候就会出现那些看起来逻辑完整、语言流畅，却并不存在的内容，也就是说。

我们平时看到的"胡说八道"，其实只是更深层原因的表象。

五、今天，我们先停在这里

如果你理解了今天这一篇，那么下一篇的很多现象，就都能解释了。为什么 AI 会引用不存在的论文？为什么会编造不存在的法律条文？为什么会虚构一本根本没有出版过的书？这些都不是独立的问题，它们都有同一个源头。

AI 不会像人一样，先判断自己知不知道，再决定要不要回答。

于是，一个新的问题自然出现了，如果它一直在生成，为什么有时候会生成正确答案，有时候却会生成一本正经的错误答案？它到底是依据什么来"猜"的？

调查笔记 No.5

今天，我们推翻了第五个认知。

❌ AI 会先判断自己知不知道，然后再回答。

✅ AI 并不会先判断。它看到问题后，就直接开始生成。

真正的问题，不是它会不会犯错，而是：

它没有"知道自己不知道"这个过程。

当前掌握的线索

• AI 每次回答，都基于眼前能够看到的信息。
• AI 不会先完成整篇答案，而是一边生成一边继续生成。
• AI 学习的是规律，而不是标准答案。
• AI 不会像人一样，先判断自己是否知道，再决定是否回答。

下一步调查

如果 AI 不会判断自己知不知道。那么，

为什么它有时候猜得那么准，有时候又会一本正经地胡说八道？

下一篇，我们继续调查。

《AI 为什么会？⑥ AI 为什么会一本正经地胡说八道？》