《基地》给我的误导
第一次读阿西莫夫的《基地》,我和很多人一样,被谢顿的心理史学吸引。
一个人,竟然试图用数学预测整个银河帝国数百年的命运。他预见帝国的衰亡,设计两座基地,希望把漫长的黑暗时代缩短到一千年。
那是一个极其宏大的设定。我很长时间都以为,《基地》最了不起的地方,就是预测未来。
后来我才发现,自己可能被这个设定误导了。
真正让我反复想起的,并不是谢顿算出了什么,而是谢顿死后发生了什么。
谢顿死了,计划仍然继续
在小说里,早已去世的谢顿会在危机前后,以预先留下的影像再次出现。
他不能回答现场的问题,不能根据新的情况改变说法,也不能替后来的人行动。他能做的,只是把一段来自过去的信息送到他们面前。理解它、怀疑它、决定下一步怎么走,仍然是后来者的责任。
谢顿没有一直活着,但记录穿过了时间。
《基地》的许多章节前,还会出现仿佛摘自未来《银河百科全书》的文字。小说中的人物已经死去,帝国已经更替,他们的经历却被后来的人整理、引用和重新解释。
更重要的是,谢顿留下的判断也并非永远正确。当计划没有预见的“骡”出现时,预言失去了作用。记录不是神谕,历史也不能替后来者作决定。
但记录至少让后来者知道:前人如何理解世界,原来的计划是什么,现实又从哪里偏离了它。
真正跨越时间的,不是一个永远在场的人,而是后来者仍然能够阅读、质疑和修正的历史。
我后来在修史传统里看见了答案
谢顿的故事毕竟发生在小说里。后来我才意识到,中国绵延已久的修史传统,早就在处理同一种连续性。
司马迁完成《史记》时,在《太史公自序》中写道,要把它“藏之名山,副在京师,俟后世圣人君子”。
他很清楚,自己写下的东西并不只属于当时。它还要等待那些尚未出生的读者。
《史记》以后,修史逐渐成为一种延续千年的制度。此后的许多朝代会为前朝整理历史。从《史记》到《明史》,“二十四史”记录的不只有帝王和战争,也有人物、制度、礼乐、地理、经济与灾异。
这是一个很值得琢磨的场景:王朝已经结束,新的王朝却要坐下来,把前朝的得失重新写进历史。
当然,官修历史从来不是天然客观的。它有立场,有删减,也会受权力影响。但正因为文本被留下,后来的人才有具体的材料可以比较、怀疑、补充和纠正。
历史不能保证真相,却能让争论不至于失去对象。没有历史,连辨明真伪的根基都没有。
修史也不是让后人服从前人。恰恰相反,它让后来的人不必重新发明过去。
文明依靠什么延续
一个人再聪明,也只能活在有限的时间里。记忆会模糊,经验会随着个体离开。
文明解决这个问题的办法,不是等待一个永远不会遗忘的人,而是把经验移出个人:写成书,立成法,保存档案,留下图纸、作品和可以复查的记录。
后来者没有见过前人,却可以理解前人做过什么;不必同意前人的判断,也可以从前人已经到达的地方继续出发。
文明不会因为偶尔出现几个更聪明的人就自然延续。它能够延续,是因为一代人的经验可以变成另一代人的起点。
换句话说,文明真正积累的,不只是知识,也是历史。
那我们的 AI,为什么没有历史?
今天的 AI 本身就站在人类历史之上。
它读过书籍、论文、代码和无数公开文本。没有人类长期留下的记录,就不会有今天的大模型。
可当 AI 开始帮助我们工作时,奇怪的事情发生了:它大量使用人类的历史,却很少帮助我们形成自己的工作历史。
我们正在拥有越来越强的生产能力,却可能拥有越来越短的工作历史。任务结束后,留下来的往往只有最后一份产物。那些真正影响下一步的选择、失败、证据和理由,则散落在聊天、临时日志和已经关闭的平台里。
换一个模型,换一个助手,甚至只是换一段对话,人就要重新讲述自己。
这不是一个假想的问题
在开发 Agotalk 的过程中,这件事反复发生。
一个 AI 助手查了资料,试过几条路,否定了其中两条,最后完成了一次修改。任务被打断,或者下一轮换了另一个模型。后来者看得到改完的文件,却不知道前两个方向为什么被放弃,也不知道是哪条证据改变了判断。
于是它再次提出旧方案,我也只好从头解释。
一开始,我把这理解成记忆不够。后来才发现,问题不是新模型不够聪明,也不是旧模型记得不够多,而是上一次工作没有形成可以交接的历史。
记忆不是历史
今天几乎所有 AI 产品都在谈记忆。这当然重要。
记忆让助手记得你的名字、偏好、项目背景和上一次对话。它减少重复解释,让当前这个助手更懂你。
但历史回答的是另一组问题:当时为什么这样决定?依据是什么?谁做了什么?哪个方向失败了?最后留下了什么?
记忆服务眼前这个助手。历史服务于换了助手之后仍要继续的工作。
一个模型的记忆可以被更新、压缩,甚至随模型一起消失。历史则必须存在于模型之外,让并未经历现场的后来者仍有材料可读。
理查德·萨顿(Richard Sutton)在《The Bitter Lesson》中回看几十年的 AI 研究,得出一个苦涩的结论:长期来看,能够不断利用更多计算的通用方法,往往胜过人手写进去的聪明办法。
在机器学习的尺度上,这个判断很重要。但如果把时间拉长到几十年,我还想补上一句:不要让经验只消失在模型里,让它沉淀为后来者可以读取的历史。
这并不反对学习。学习改变行动者,历史改变后来者的起点。
历史也不是把一切都留下
历史不是录音机,也不是一份听起来很完整的 AI 总结。
不是所有聊天都值得保存,不是所有日志都应该进入长期记录。真正值得留下的,是人原本想做什么,谁做了什么,哪些证据改变了判断,为什么作出或放弃一个决定,以及最后交付了什么。
AI 可以帮助整理、关联和查找,但不能为了让故事顺滑而改写事实,也不能替人决定什么值得被保留。
历史必须留下证据,人必须保留最终决定权。
能不能做个有史官能力的 Agent?
这才是 Agotalk 出现的地方。
我们先做的并不复杂。工作开始时,把人的意图写下来;工作进行时,留下分工、重要行动、证据和决定;任务被打断时,写清楚已经做到哪里、还有什么风险、下一步从哪里开始;任务结束时,让最终产物和来路都回到人可以直接打开的文件里。
后来者先读这些文件,再接着工作。接手的可以是同一个模型,也可以是完全不同的模型。
这也是我们坚持 File is Truth 的原因。需要长期继承的事实,不能只活在某个模型内部、某段会消失的对话,或某家产品不可见的后台里。文件属于用户,可以被阅读、带走和重新解释。
后来有人用一个词概括这件事:Historical Agent。这个说法帮我看清,重点并不是让同一个助手变得越来越聪明,而是让它参与过的工作变得越来越丰富,并且可以被后来者继承。
我们没有另外造一个专门写历史的 AI。Agotalk 仍然只是助手:模型负责理解和行动,文件负责承载值得继承的经验,人保留最后的判断。
它也不应该把人绑在每一步审批里。普通工作由助手完成;真正需要选择的时候,再把事实、选项和证据交还给人。
我不希望用户因为自己的历史被锁在 Agotalk 里,而不得不永远依赖它。如果未来出现更好的模型、更好的助手、更好的系统,它们应该能够读取这些文件,继续尚未完成的工作。
Agotalk 可以消失。用户的连续性不能跟着消失。
文明不会因为不断出现更聪明的人而自动延续。它之所以能够向前,是因为后来者可以站在前人的记录上继续走。
Agotalk 想做的,不过是把这件古老的事,带回 AI 时代。