AI 为什么会？① ChatGPT 回答你的问题时，到底依据什么？

这一篇，我们只调查一个问题。

ChatGPT 回答你的问题时，到底依据什么？

一、“因为它知道很多”，够不够？

第一次使用 ChatGPT 的人，大都会经历一个相似的过程。打开网页，输入一句话。

中国的首都是哪里？

它回答：

北京。

再问：

帮我写一封请假邮件。

它会。让它写 Python、分析合同、翻译英文，它也会。有人拿它写小说，有人让它做旅行攻略。它似乎什么都会，于是，我们的大脑会自动得出一个结论。

因为它知道很多。

这个结论并没有错。一个完全没有知识、没有语言能力的模型，当然回答不了这些问题。老实说，刚开始我也是这么理解的：ChatGPT 大概像一位读遍了互联网的超级学者。

直到后来，我问了它几个奇怪的问题。

可它的每一次回答，真的都只来自它“知道”的东西吗？

二、它突然什么都不会了

我问它：

我们公司的员工手册第八章写了什么？

如果这份手册没有公开，也没有上传，它通常答不上来。我再问：

我桌上的咖啡是什么牌子？

如果我只打了这一行字，它同样不知道。刚才，它还能写程序、翻译英文，怎么现在连桌上的咖啡都认不出来了？

可当我拍一张清楚的照片发给它，它也许马上就能认出来。

模型并没有在这一秒突然学会看咖啡。前后真正变化的只有一件事：

它这一次拿到了什么信息。

那天，我突然意识到，我们总在问“AI 知道什么”，却很少追问另一个同样重要的问题：

这一次，它拿到了什么？

三、一本没有递到手里的书

假设朋友拿着一本你从来没有见过的书，突然问你：

第 287 页写了什么？

你答不上来，并不能说明你不识字，也不能说明你不会理解文章。书根本没到你手里。

如果朋友把书递过来，你翻到第 287 页，很快就能回答。变化的不是你的智力，而是你终于拿到了材料。

ChatGPT 也有类似的两部分。大模型，是训练出来的那部分。它从大量文本中形成了语言能力、知识关联和处理问题的规律。ChatGPT 则是模型外面的产品，它还可能替模型准备聊天记录、系统指令、Memory、文件、搜索结果，以及工具返回的结果。

所以，有时它能回答，是因为训练已经给了它知识和能力；有时它突然“会了”，则是因为产品刚刚替它拿来了原本没有的材料。

模型决定了它大致会什么。

当前材料决定了它这一次能依据什么。

四、它面对的不是整个世界

人可以转头看桌面，可以摸到杯子的温度，也可以走进仓库数一数还有多少箱货。大模型本身没有这样的身体。它和世界之间，始终隔着一层东西。

它接触真实世界，大致有两条路径。一条是训练：模型从人类留下的大量记录中形成语言能力、知识关联和处理问题的规律；另一条是当前输入：产品把文字、图片、声音、文件、搜索结果或传感器数据递给它。

它可以借这些记录认识世界，却不能直接把整个真实世界装进自己眼前。它最终能够依据的，是训练形成的能力，以及系统这一次实际交给它的信息。

而且，递到它面前的材料不一定可靠。它可能看到事实，也可能看到小说；可能拿到最新数据，也可能被一条错误网页带偏。

它看见了什么，和它看见的是不是真的，是两个不同的问题。

五、答案终于拼完整了

现在，回到最初的问题：ChatGPT 回答你的问题时，到底依据什么？

“因为它知道很多”，只说对了其中一部分。

它确实知道很多——训练给了它语言、知识和处理问题的能力。但面对一个具体问题，它还要依据系统这一次摆到面前的材料。两部分缺了任何一边，都可能答不好。

训练，给了它回答问题的基础。

当前可用的信息，决定了这次回答从哪里出发。

这时，一个比答案更有意思的问题出现了：系统每次交给它的那份材料，到底包括什么？聊天记录算不算？上传的 PDF 算不算？Memory 和搜索结果，又放在哪里？

调查笔记 No.1

今天，我们没有推翻“AI 知道很多”，而是补上了它遗漏的另一半。

⚠️ AI 回答问题时，只依据训练中学到的知识。

✅ AI 的回答同时来自训练形成的知识与能力，以及这一次能够使用的信息。

知道很多，很重要；这一次拿到什么，同样重要。

新的疑问来了：

AI 回答之前，这一次能够直接使用的信息，到底有哪些？

下一篇，我们继续调查。

《AI 为什么会？② AI 眼中的世界，和你想象的不一样》