关于 AI 的讨论大多停在 AGI——通用人工智能，大致相当于人类水平。可是到了那一步之后呢？Google DeepMind 的一篇新报告 From AGI to ASI，由 Shane Legg 和十几位同事合写，认真对待了这个问题。下面是它的一个简短导读。
同一条线上的三个点
报告把机器智能看作一条连续谱，而不是若干离散的阶段：
- AGI —— 在多数认知任务上大致与单个人类相当的系统。
- ASI（超级人工智能）—— 不只超过单个专家，而是超过由人类专家组成的大型组织，几乎覆盖所有领域。
- UAI（通用 AI）—— 这条线的理论终点，一个数学上理想的智能体（AIXI）。它被证明是可能的最强者——也被证明实际上造不出来。
连续谱的意思是：“AGI”和“ASI”并不是什么天然的界线，而只是一把刻度尺上有用的标记，而这把尺子原则上一直延伸到 UAI。
从 AGI 到 ASI 的四条路
报告的核心，是越过人类水平之后的四条可能路径：
- 扩张（Scaling）。 继续堆算力、数据和模型规模。有效算力近年大约每年涨 10 倍。哪怕单个 AGI 触顶，数百万个高速副本并行运行，可能本身就已经构成 ASI。
- 范式转移。 一种真正全新的架构或训练方法——这种突破，按定义就很难提前预测。
- 递归自我改进。 AI 帮忙造出更好的 AI，后者再造出更好的 AI——一个原则上可能急剧加速的反馈回路。
- 多智能体集体。 超级智能不是来自单个模型，而是从大量相互协作的智能体中涌现，就像人类的组织机构比任何个人都更聪明。
又有什么会拖慢它
报告也认真列出了沿途的阻力：数据墙（高质量训练文本本十年内耗尽）、能源与芯片的上限、今天的神经网络范式或许根本不够、随着容易的成果被摘完研究越来越难、抽象障碍（AI 也许只会重组人类已有的概念，难以发明真正全新的概念），以及来自监管或社会反弹的主动减速。
最深的瓶颈：AI 能掀翻棋盘吗？
这几个里，抽象障碍是我一直在想的那个。论文的担忧——源自 Neil Lawrence 的“具身因子”（embodiment factor）论证——是：今天的模型用人类生成的数据训练，于是继承了我们的概念，可能永远无法从原始经验里凭空造出全新的概念。
一个把它讲清楚的好工具——这个讲法我借自一个对该论文的精彩视频解读——是 Margaret Boden 的创造力三层级：组合型（重组已有想法）、探索型（在既定框架内找到新解）、变革型（推翻框架本身）。AlphaGo 著名的“第 37 手”属于探索型——惊艳，却从未改写围棋规则；爱因斯坦取代牛顿则是变革型——他直接掀翻了棋盘。悬而未决的问题（Demis Hassabis 在公开演讲里提过）是：把今天的 AI 继续放大，它能否抵达第三层，还是始终只是一个在人类已经画好的框架里探索的高手？
如果只是探索者，那么再多的速度与规模也产生不了真正的超级智能——只会得到一个极快、极全面的人类水平智能。
我的一点感受
我觉得最有意思的，是这篇报告的克制。这群人本是最有理由预期一场剧烈、突然的”起飞”的——可他们却明确怀疑”单一剧变台阶”这个画面。他们认为，更可能看到的是横跨科学与技术的一连串转变；而且他们反复强调，不确定性极大：他们提醒说，对 AI 进展的预测”也许没什么信息量”。
这是一篇有分寸的文章——更像是在画一张地图，而不是给出一个预言；它试图勾勒出 AGI 之后的地形，而不是声称自己已经知道那里有什么。