AI 为什么会?⑩ AI 为什么开始认识你了?
上一篇,我们调查了一个很多人第一次使用 AI 都会经历的现象。上传一本 PDF 通常不会修改模型参数,而是让系统多了一个可以读取或检索的信息源。于是,一个新的问题出现了:越来越多的人发现,AI 开始记住自己了,它知道你的职业、写作风格和兴趣。这是怎么做到的?
调查现场
如果你最近一直在使用 ChatGPT,可以试着问它一个问题。例如:
我平时喜欢怎样的表达风格?
或者:
你觉得我是一个什么样的人?
如果产品开启了 Memory 或引用聊天历史,它可能回答出不少信息。第一次看到这里的时候,很多人的第一反应都是:
AI 已经认识我了。
我当时也是这么想的。后来,我试着追问了一句:它是把这些聊天学进了模型,还是把关于我的资料保存在了别处?
这个问题,把两种完全不同的变化分开了。
一、我们又把 AI 想成人了
为什么我们会觉得 AI 有了记忆?因为人就是这样:认识一个朋友,一起吃饭、一起聊天,时间久了,自然越来越了解对方。于是,我们很容易认为,AI 也是把每一次聊天都学进了自己的“大脑”。真正的实现通常不是这样。
二、它是变聪明了,还是多了一本通讯录?
假设你和 AI 聊了一年。它记得你是程序员,喜欢长期投资,写文章不爱堆术语。可它的数学能力并没有因此突然提高,也没有因为认识你就学会一门新法律。
这更像什么?不像大脑被重新训练了一遍,更像系统替它准备了一本关于你的通讯录。需要时翻到相关那一页,再把内容交给模型。
重新训练模型,会修改参数,可能改变更普遍的知识和能力;Memory 通常发生在模型之外,负责保存信息,再在合适的时候取回来。
它越来越了解你。
为什么?
三、但它也不是一张静止的用户卡片
最初,我把 Memory 想成一张写着姓名、职业和偏好的用户卡片。后来发现,这个比喻仍然太简单。
今天的产品可能保存你明确要求记住的内容,也可能在过去聊天中寻找相关信息。它不会每次把全部历史倾倒给模型,而会按照规则选择、整理、更新,必要时还要允许用户删除。
从这个角度看,Memory 更像一位会整理档案的助理,而不是一张固定卡片。它和上传 PDF 有相似之处:都让模型取得参数之外的信息;不同的是,Memory 还要负责跨时间保存、更新、选择和删除。
模型之外,多了一套管理长期信息的系统。
四、于是,桌上的东西开始有了来路
现在再看桌上的材料,来路已经越来越清楚。Prompt 是你这一轮主动写下的任务和材料;聊天记录保存当前对话;PDF 提供外部文档;Memory 则跨越多个对话,管理以后可能还会用到的信息。
它们不是同一个功能。只是当某段内容被真正取出来以后,才可能一起出现在当前 Context 里。
让训练参数之外的信息,在需要时参与回答。
五、模型没变,产品已经变了
写到这里,我突然意识到:我们总说“还是同一个模型”,很容易让人以为什么都没变。
模型参数也许没有改变,产品却已经多了一套跨对话管理信息的系统。它能记住、忘掉、更新,也能在合适的时候把旧信息重新拿出来。
模型没有重新认识你,产品开始有办法让它持续认识你。
六、Memory 真正改变了什么?
很多人觉得,Memory 的价值是 AI 开始记住我了。这句话并没有错。它带来了跨对话的连续性和个性化,也改变了:
人与 AI 合作的成本。
以前,每一次聊天,你都要重新介绍自己,现在,很多背景信息,已经提前放在那里,于是,你们可以直接进入真正的问题。这不是 AI 更聪明了,而是 AI 不用再重新认识你了。
调查笔记 No.10
今天,我们推翻了第十个认知。
⚠️ Memory 意味着模型像人脑一样,把每次聊天都学进了参数。
✅ 产品级 Memory 通常在模型之外保存、整理并按需取回信息,再让相关内容参与当前回答。
模型参数未必改变,但产品确实获得了一种跨时间的信息能力。
当前掌握的线索
- AI 的回答来自模型能力和当前 Context。
- Prompt、聊天记录、PDF、Memory 会以不同方式影响 Context。
- Memory 不等于重新训练模型,而是一套保存、选择和取回信息的机制。
- AI 是否“认识你”,还取决于产品设置、保存内容和本次是否检索到相关信息。
下一步调查
Prompt 负责交代当前任务,PDF 提供文档,Memory 管理跨时间的信息。它们并不是同一种机制,只是取出的相关内容都可能参与当前回答。那么,为什么 AI 又开始懂法律、懂医学、懂编程、懂你所在的行业?难道开发者真的为每个行业都训练了一个新模型吗?
下一篇,我们继续调查。
《AI 为什么会?⑪ AI 为什么越来越懂你的行业?》