AI 为什么会？① ChatGPT 为什么会回答你的问题？

这一篇，我们只调查一个问题。

ChatGPT 为什么会回答你的问题？

一、我们可能一直问错了问题

第一次使用 ChatGPT 的人，大都会经历一个相似的过程。打开网页，输入一句话。

你好。

它回答了，没什么奇怪的，毕竟，我们见过很多聊天机器人，于是继续问。

中国的首都是哪里？

它回答：

北京。

再问。

帮我写一封请假邮件。

它会，再问。

帮我写一个 Python 程序。

它也会，有人让它写小说，有人让它分析股票，有人让它做旅行攻略，有人甚至让它帮自己写毕业论文。它似乎什么都会，于是，我们的大脑会自动得出一个结论。

因为它知道很多。

这个结论，听起来再合理不过了。如果一个人什么都会，我们通常也会认为：

他一定读过很多书，知道很多知识。

所以，我们很自然地把 ChatGPT 想象成了一位几乎读遍所有书籍的超级学者。老实说，刚开始，我也是这么认为的，直到后来，我问了它几个奇怪的问题。

二、它突然什么都不会了

我问它：

我们公司的员工手册第八章写了什么？

它不会。我又问：

我昨天放在桌子上的咖啡是什么牌子？

它不知道。我继续问：

我昨天和你聊了什么？

有时候知道，有时候又不知道，这就奇怪了，刚才，它还能写程序、分析股票、翻译英文。怎么现在突然连这些问题都回答不了？如果它真的"知道很多"，为什么这些问题偏偏不知道？那天，我连续试了很多问题，越试越觉得奇怪。

它并不是随机地知道或者不知道。它好像一直遵循着某种规律，只是那时候，我还没有发现那条规律。

三、后来，我终于发现自己问错了

后来有一天，我突然意识到。我们一直在问：

AI 知道什么？

其实，这个问题从一开始就问错了。真正应该问的是：

AI 能看到什么？

这两个问题，看起来只差了一个字，但背后的逻辑完全不同，举个例子，假设你的朋友拿着一本你从来没有见过的书。他问你：

第 287 页写了什么？

你当然不知道，这并不能说明你不聪明。只是因为

你没有看到第 287 页。

如果他把书递给你，你翻到第 287 页，你立刻就知道答案了，请注意，刚刚发生变化的，并不是你的智商，而是：

你能够看到的信息。

那一刻，我突然觉得，ChatGPT 好像也是这样。

四、它不是根据世界回答问题

很多人理解 ChatGPT 的方式是这样的。它脑子里装着整个世界，你问什么，它就从脑子里找答案，后来我发现，这个比喻其实不准确。更接近真实情况的是：

它每一次回答，都只能根据自己眼前能够看到的信息。

如果没有看到，它就回答不了；如果看到了，它通常就能回答得很好，请注意这句话，它非常重要，甚至可以说，它是理解 AI 的第一块积木。

AI 不是根据真实世界回答问题。

它是根据自己眼前能够看到的信息回答问题。

这两句话，只差几个字，却会把你带向两种完全不同的理解方式。

五、真正的谜团才刚刚开始

如果真是这样，那么，一个更大的问题出现了，ChatGPT 每次回答问题的时候，它到底看到了什么？它只看到了我的这一句话吗？还是也看到了之前的聊天记录？上传的 PDF，它能看到吗？联网搜索的结果，它能看到吗？如果我告诉它一些背景信息，它会不会一起看到？又或者，它眼中的世界，和我们想象的完全不同？直到今天，我越来越相信，理解 AI，真正重要的第一步，不是学习 Prompt，不是学习 Agent，也不是背各种专业名词，而是先放下一个几乎所有人都会有的直觉。

AI 会回答问题，是因为它知道很多。

这其实并不准确。更准确的说法是：

AI 会回答问题，是因为它只能根据眼前能够看到的信息回答问题。

这两个观点，看起来很像，但后面的整个 AI 世界，都会因此变得不同。

调查笔记 No.1

今天，我们推翻了第一个认知。

❌ AI 会回答问题，是因为它知道很多。

✅ AI 会回答问题，是因为它只能根据自己眼前能够看到的信息回答问题。

新的疑问来了，如果 AI 每次都只能根据眼前的信息回答。那么，

它眼前，到底有什么？

下一篇，我们继续调查。

《AI 为什么会？② AI 眼中的世界，和你想象的不一样》