目录1010 / 17

AI 为什么会?⑩ AI 为什么开始认识你了?

上一篇,我们调查了一个很多人第一次使用 AI 都会经历的现象。上传一本 PDF 通常不会修改模型参数,而是让系统多了一个可以读取或检索的信息源。于是,一个新的问题出现了:越来越多的人发现,AI 开始记住自己了,它知道你的职业、写作风格和兴趣。这是怎么做到的?


调查现场

如果你最近一直在使用 ChatGPT,可以试着问它一个问题。例如:

我平时喜欢怎样的表达风格?

或者:

你觉得我是一个什么样的人?

如果产品开启了 Memory 或引用聊天历史,它可能回答出不少信息。第一次看到这里的时候,很多人的第一反应都是:

AI 已经认识我了。

我当时也是这么想的。后来,我试着追问了一句:它是把这些聊天学进了模型,还是把关于我的资料保存在了别处?

这个问题,把两种完全不同的变化分开了。


一、我们又把 AI 想成人了

为什么我们会觉得 AI 有了记忆?因为人就是这样:认识一个朋友,一起吃饭、一起聊天,时间久了,自然越来越了解对方。于是,我们很容易认为,AI 也是把每一次聊天都学进了自己的“大脑”。真正的实现通常不是这样。


二、它是变聪明了,还是多了一本通讯录?

假设你和 AI 聊了一年。它记得你是程序员,喜欢长期投资,写文章不爱堆术语。可它的数学能力并没有因此突然提高,也没有因为认识你就学会一门新法律。

这更像什么?不像大脑被重新训练了一遍,更像系统替它准备了一本关于你的通讯录。需要时翻到相关那一页,再把内容交给模型。

重新训练模型,会修改参数,可能改变更普遍的知识和能力;Memory 通常发生在模型之外,负责保存信息,再在合适的时候取回来。

它越来越了解你。

为什么?


三、但它也不是一张静止的用户卡片

最初,我把 Memory 想成一张写着姓名、职业和偏好的用户卡片。后来发现,这个比喻仍然太简单。

今天的产品可能保存你明确要求记住的内容,也可能在过去聊天中寻找相关信息。它不会每次把全部历史倾倒给模型,而会按照规则选择、整理、更新,必要时还要允许用户删除。

从这个角度看,Memory 更像一位会整理档案的助理,而不是一张固定卡片。它和上传 PDF 有相似之处:都让模型取得参数之外的信息;不同的是,Memory 还要负责跨时间保存、更新、选择和删除。

模型之外,多了一套管理长期信息的系统。


四、于是,桌上的东西开始有了来路

现在再看桌上的材料,来路已经越来越清楚。Prompt 是你这一轮主动写下的任务和材料;聊天记录保存当前对话;PDF 提供外部文档;Memory 则跨越多个对话,管理以后可能还会用到的信息。

它们不是同一个功能。只是当某段内容被真正取出来以后,才可能一起出现在当前 Context 里。

让训练参数之外的信息,在需要时参与回答。


五、模型没变,产品已经变了

写到这里,我突然意识到:我们总说“还是同一个模型”,很容易让人以为什么都没变。

模型参数也许没有改变,产品却已经多了一套跨对话管理信息的系统。它能记住、忘掉、更新,也能在合适的时候把旧信息重新拿出来。

模型没有重新认识你,产品开始有办法让它持续认识你。


六、Memory 真正改变了什么?

很多人觉得,Memory 的价值是 AI 开始记住我了。这句话并没有错。它带来了跨对话的连续性和个性化,也改变了:

人与 AI 合作的成本。

以前,每一次聊天,你都要重新介绍自己,现在,很多背景信息,已经提前放在那里,于是,你们可以直接进入真正的问题。这不是 AI 更聪明了,而是 AI 不用再重新认识你了。


调查笔记 No.10

今天,我们推翻了第十个认知。

⚠️ Memory 意味着模型像人脑一样,把每次聊天都学进了参数。

产品级 Memory 通常在模型之外保存、整理并按需取回信息,再让相关内容参与当前回答。

模型参数未必改变,但产品确实获得了一种跨时间的信息能力。


当前掌握的线索

  • AI 的回答来自模型能力和当前 Context。
  • Prompt、聊天记录、PDF、Memory 会以不同方式影响 Context。
  • Memory 不等于重新训练模型,而是一套保存、选择和取回信息的机制。
  • AI 是否“认识你”,还取决于产品设置、保存内容和本次是否检索到相关信息。

下一步调查

Prompt 负责交代当前任务,PDF 提供文档,Memory 管理跨时间的信息。它们并不是同一种机制,只是取出的相关内容都可能参与当前回答。那么,为什么 AI 又开始懂法律、懂医学、懂编程、懂你所在的行业?难道开发者真的为每个行业都训练了一个新模型吗?

下一篇,我们继续调查。

《AI 为什么会?⑪ AI 为什么越来越懂你的行业?》