目录22 / 17

AI 为什么会?② AI 眼中的世界,和你想象的不一样

上一篇,我们发现,“AI 知道很多”只说对了一半。它能不能回答一个具体问题,还取决于系统这一次把什么材料交给了它。

于是,一个新的问题出现了。

这一次,它到底拿到了什么?


一、先别急着聊 AI

假设,你准备去杭州旅游。于是,你问朋友:

杭州有什么值得去的地方?

如果朋友对你一无所知,他大概率会回答:西湖、灵隐寺、河坊街。这是一个没什么毛病、也没什么惊喜的答案。

如果你补充一句:

我带着一个十岁的孩子,而且不喜欢人太多。

他的建议往往就会变化。可能从热门景点,变成更适合孩子、也相对清静的路线。

朋友没有突然变聪明,真正变化的是:

他多得到了一些与问题相关的信息。

我以前看到这里,很容易得出另一个结论:那就把信息给得越多越好。可事情没有这么简单。如果你再塞给他三页无关的会议记录,他未必会推荐得更好;如果你把孩子的年龄写错,路线甚至会被带偏。

真正有价值的是:相关、可靠,而且没有淹没重点的信息。


二、ChatGPT 也是这样

现在,把朋友换成 ChatGPT。第一次,你问:

帮我推荐几本书。

第二次,你问:

我今年刚开始学习投资,平时喜欢商业和科技,已经读过《穷查理宝典》,下一步应该读什么?

第二次通常更合适。很多人会说:“ChatGPT 变聪明了。”

其实模型未必发生了任何变化。它只是终于知道:书是推荐给谁的,要解决什么问题,以及哪些书不必重复推荐。

当然,这些背景信息不会凭空创造推荐能力。书名知识和语言能力仍然来自训练。当前信息做的,是让模型知道这一次该把已有能力用到哪里。


三、它为什么有时记得,有时又忘了?

接下来这个现象更有意思。你和 ChatGPT 聊了半个小时,它能接住你前面说过的话。换一个新窗口再问,它有时仍然记得你的偏好,有时却像第一次见面。

它到底失忆没有?

后来我才明白,问题不在“新窗口”这三个字,而在系统有没有把旧信息重新递给它。如果开启了 Memory 或引用聊天历史,产品可能从过去的对话里挑出相关内容;在项目中,它也可能引用其他聊天和文件。关闭这些功能,或者使用临时聊天,结果又会不同。

所以,不能再简单地说:

新窗口里的 AI 从来没看过旧聊天。

而是:

模型不会天然拥有你的全部聊天历史。产品会按照设置和规则,选择哪些旧信息在这一次重新提供给它。

模型不会天然抱着你全部的聊天记录进入每一个窗口。它“记得”多少,往往取决于产品这一次替它找回了什么。


四、上传 PDF,又发生了什么?

上传一份员工手册以后,你再问:

第八章主要讲了什么?

它可能回答得头头是道。第一次看到这个变化,很容易觉得:AI 学会了这本书。

可如果一本几百页的文件已经超过模型一次能处理的长度,它怎么可能每次都从第一页重读到最后一页?

更常见的情况是:系统先处理文件,再把相关片段找出来交给模型。于是,上传成功并不等于模型真的看到了正确内容。文件解析错了,或者关键段落没找出来,它仍然会答错。

到这里,我们已经看到三个看似无关的现象:补充背景会改变答案,旧聊天可能重新出现,上传 PDF 也会改变答案。它们共同指向了同一个问题:

这一次,哪些内容真的进入了模型可以使用的材料。


五、终于,我们需要一个名字

聊到这里,我们才真正需要一个新词。模型开始回答之前,这一次能够直接使用的文字、图片、工具结果、相关记忆和指令,通常都属于它的:

Context。

中文一般翻译成:

上下文。

如果这个词不好记,可以想象一张桌子。模型开始工作时,系统把这一次能用的材料摊在桌上。

但要注意:桌上不是整个世界,也不包括模型训练时已经形成的全部知识。它只是:

模型在这一次计算中,可以直接使用的那部分信息。

桌上可能摆着可靠文件,也可能混进错误网页,甚至可能被恶意指令污染。Context 决定它这一次能直接看见什么,却不保证看见的就是真的。


六、Prompt 只是桌上的一部分吗?

很多人学 AI 时最先接触 Prompt,于是很容易把 Prompt 当成模型收到的全部东西。按照日常用法,Prompt 通常指用户或开发者写给 AI 的要求和材料,它可以包含问题、背景、指令、示例、限制和输出格式。

在具体产品里,它还会和系统指令、聊天历史、检索结果、Memory 一起,组成模型这一次能使用的 Context。

换句话说,Prompt 很重要,但桌上通常不只有这一张纸。

不过,“Prompt”在不同技术文档里的口径并不完全统一,有时也会泛指送进模型的整份输入。所以,遇到这个词时,真正值得问的不是谁的定义唯一正确,而是:

你说的 Prompt,采用的是哪一种口径?


调查笔记 No.2

今天,我们推翻的不是某个名词,而是一个更隐蔽的直觉。

⚠️ 只要给 AI 更多信息,回答就会更好。

真正有帮助的,是进入当前 Context 的相关、可靠、清晰的信息。

Context 不是整个真实世界,而是模型这一次可以直接使用的信息集合;它也不等于模型参数里已经形成的知识和能力。


新的疑问来了。现在,模型已经拿到了这些材料。那么:

它到底怎样把这些信息变成答案?这个过程,算不算思考?

下一篇,我们继续调查。

《AI 为什么会?③ AI 真的是在思考吗?》