《AI 3.0》

一句话结论

机器在一道题上表现出色，不代表它理解了这道题所在的世界；常识、抽象和知识迁移才是本书追问的难关。

值不值得读完整本？

值得读完整本。它把算法怎样取得成绩、成绩为什么容易被误读讲在一起，能帮助你判断 AI 能力声明；但应把技术案例放回 2019 年的背景。

• 第 1—3 章交代符号主义、神经网络和 AI 发展史；已有基础可以快读，但要看清 AI、机器学习与深度学习的关系。
• 第 4—13 章值得连着读：视觉、强化学习和语言处理的成功各有条件，也各有局限。
• 第 14—16 章是全书的思想落点，重点看理解、常识、抽象和类比之间的联系。
• 英文原名为 Artificial Intelligence: A Guide for Thinking Humans，2019 年首版；中文《AI 3.0》于 2021 年出版。“3.0”不能直接当作作者提出的技术分代理论。

核心观点

1. 专项成功不等于通用智能

作者承认深度学习取得了实质进步，但反对把某项任务的高分直接解释为接近人类的通用智能。深度学习也只是 AI 的一种方法。

为什么：神经网络通过调整连接权重，改善训练目标上的表现，减少了逐条编写识别规则的需要。大量数据、计算资源和合适的网络结构，使这种学习方式在一些任务上特别有效。但训练目标只规定了有限的能力范围，没有要求系统掌握相关的全部知识。因此，在一个比赛或测试集上超过人类，仍不能证明它能把能力迁移到陌生任务。

2. 学到相关性，可能仍没学会概念

模型可能利用数据中的统计线索完成任务，却没有获得人类以为它已经掌握的概念。判断学习是否成功，要看环境变化后表现是否稳定。

为什么：训练过程奖励预测正确，并不自动区分可靠规律和偶然线索。只要某种线索在训练与测试数据中都有效，模型就可能依赖它。实际环境或输入一变，这种联系便可能失效。对作者来说，反常错误的价值在于暴露系统究竟学到了什么，而不仅是给成功案例泼冷水。

3. 可信 AI 不能只看平均准确率

部署 AI 还要检查偏见、出错方式和解释能力。总体成绩不错，并不意味着它对不同人群都可靠。

为什么：训练数据来自社会，可能继承社会中的不平等和采集偏差。模型学习这些规律后，会把偏差带入实际决策。总体准确率又可能掩盖某些群体承受的较高错误率。复杂网络的内部计算难以转化成有用的解释，使人们更难发现问题、追究责任或提出异议。

4. 游戏中的胜利不能直接搬到现实

强化学习能让系统通过行动及其回报学习策略，但游戏里的成功条件在现实中往往不成立。

为什么：强化学习根据行动对未来累计回报的影响，逐步调整策略。游戏通常规则固定、胜负明确，而且允许大量低成本试错。现实任务则可能观测不完整、环境变化快，失败还会伤人或损坏设备。更棘手的是，人真正想要的结果未必能被奖励完整表达，获得高奖励与做好事情之间可能出现偏差。

5. 语言理解离不开常识与情境

翻译流畅、词语关系处理得好，不能单独证明系统理解了语言。理解还涉及现实知识、说话者意图和没有明说的事情。

为什么：语言交流依靠大量共享背景，许多信息根本不会写进句子。词语共现和句子配对能帮助模型学习表达规律，却不保证它掌握表达背后的情境。理解讽刺、指代和隐含结果，需要把文字与人的目标、行动及世界规律联系起来。因此，作者把语言理解视为常识和理解世界的问题，而不只是处理词语的问题。

6. 抽象与类比是灵活迁移的关键

作者把形成抽象概念、在新情境中建立类比看作迈向更一般智能的重要方向。关键是识别关系，并随情境调整概念。

为什么：新问题的表面细节往往与旧经验不同，照搬已有答案容易失效。抽象让学习者抓住关系或结构，类比则把这种结构用于新情境。但什么关系最重要并不总是预先确定的，理解情境与寻找对应关系需要互相修正。这解释了为什么灵活迁移不能仅靠保存更多案例，也说明常识知识为何重要。

反对意见

理解人类思维未必是最佳工程路线（理查德·萨顿）

萨顿在《The Bitter Lesson》中认为，随着计算成本下降，能够持续扩大计算规模的搜索和学习方法，长期往往胜过大量嵌入人类领域知识的方法。这挑战了从人类认知机制寻找工程突破口的研究优先级，但不等于否认抽象能力的重要性；这篇文章也不是专门反驳米歇尔的书。

复杂环境中的奖励学习可能产生一般能力（戴维·西尔弗等）

西尔弗、辛格、普雷卡普和萨顿在《Reward is enough》中提出：足够复杂的环境要求智能体发展感知、知识、语言和泛化能力，才能持续获得回报，因此奖励最大化可能成为统一动力。它对从强化学习走向一般智能更乐观；不过这是一项假说，没有证明现有算法已经足够，也没有解决奖励怎样符合人的真实目标。

大模型可能已经表现出更广泛的能力（塞巴斯蒂安·布贝克等）

布贝克等人在《Sparks of Artificial General Intelligence: Early experiments with GPT-4》中，根据早期 GPT-4 在多个领域的表现，认为它可以被视为尚不完整的早期通用人工智能。它对从行为表现判断一般能力持更积极的态度，也提醒读者不能把书中 2019 年的能力边界固定下来。但这些实验仍不能单独证明模型具有稳健的人类式理解。

相关推荐

• Abstraction and Analogy-Making in Artificial Intelligence：继续展开全书最后部分，比较抽象与类比的不同实现路线及评估难题。
• Building Machines That Learn and Think Like People：从因果模型、直觉物理和组合能力解释人类怎样高效学习；此处年份采用预印本首次公开时间，期刊版发表于 2017 年。
• Surfaces and Essences: Analogy as the Fuel and Fire of Thinking：深入理解类比为何可能参与日常概念形成，而不只是用于修辞或解题。
• The Bitter Lesson：从 AI 工程史出发，质疑优先把人类的知识和思维方式写进系统的研究路线。
• Reward is enough：提出奖励学习可能统一驱动多种智能能力，对强化学习走向通用智能更乐观。
• Sparks of Artificial General Intelligence: Early experiments with GPT-4：用后来的大模型实验，对照作者如何区分专项表现与较一般的智能。