书 · 2012-09 · 纳特·西尔弗(Nate Silver)

《信号与噪声》

逻辑与思维书单第 14 名

一句话结论

预测的进步,来自分清哪些东西可以知道、用概率表达不知道的部分,并让新证据不断修正判断。

值不值得读完整本?

值得读完整本。它用不同领域的成败案例,教你检查预测背后的假设、证据与不确定性,适合作为“逻辑与思维”书单中的概率思维读物。

  • 重点细读第1章的金融危机、第2章的专家判断、第4章的天气预报和第8章的贝叶斯推理:它们构成全书的主要论证。
  • 第5—7章值得连着读,比较地震、经济和传染病预测为什么各有难处;第10—11章则帮助区分预测能力与赚钱能力。
  • 棒球、国际象棋和扑克的技术细节可以略读,但要保留人与模型如何合作、如何分辨运气与实力的主线。
  • 第12章气候讨论应配合迈克尔·曼恩的批评阅读;第13章提醒你,罕见事件不能因为历史记录少就被排除。

核心观点

1. 数据越多,越需要防止把噪声当成规律

更多数据不会自动带来更好的预测。关键是找到能在新情境中继续成立的关系,而不是把过去解释得滴水不漏。

为什么:随着可比较的变量和关系增多,偶然出现的相关性也会增多。复杂模型可以把这些巧合一起记住,于是在旧数据上表现很好,面对新数据却失灵。这就是过拟合:模型学到了样本中的偶然性,而没有抓住稳定结构。因此,作者强调理解背景、检查假设,并用模型没有参与拟合的数据检验预测。

2. 好的预测应给出概率,并接受长期校准

预测应该说明各种结果的可能性和误差范围,不能只报一个最可能的答案。评价概率预测,也不能只看某一次有没有猜中。

为什么:观测误差、模型缺陷和现实中的随机变化都会使结果偏离预期。只公布一个数,会把这些不同来源的不确定性藏起来,让使用者误以为结果很确定。概率预测则允许人们根据不同后果安排准备措施。检验它是否可靠,需要积累许多预测,观察被赋予某一概率的事件是否以相近频率发生。

3. 贝叶斯思维是结合基础概率,按证据更新

解释新证据时,要同时考虑事情原本有多可能,以及这条证据在不同解释下各有多容易出现。判断应随着证据逐步调整。

为什么:同一条证据,对常见事件和罕见事件的意义并不相同。即使某种检验很灵敏,只要目标事件很少见,误报仍可能占据阳性结果的大部分。贝叶斯方法把先验概率与证据的区分能力结合起来,得到更新后的概率。这要求我们把已有假设说清楚,并在证据不符合预期时修正它,而不是孤立地追逐每条新消息。

4. 开放的专业判断与统计模型可以互相补足

作者更看好愿意结合多种信息、承认错误的“狐狸型”预测者。统计模型和人的专业观察,各自能发现对方遗漏的信息。

为什么:坚持单一大理论的人容易筛选证据,把反例解释成例外,于是难以及时纠错。模型能够稳定处理大量数据,却只能使用设计者放进去的信息和假设。专业人士可能发现伤病、局部天气或情境变化等尚未进入模型的因素,但也会受到偏见影响。因此,作者主张让不同信息相互检验,并根据实际表现决定何时采纳人的调整。

5. 预测有边界,必须区分不同问题的可预测性

一种预测方法在某个领域成功,不代表它能照搬到所有领域。预测长期频率、总体趋势和具体事件发生时间,是不同的任务。

为什么:天气系统会放大初始测量中的微小误差,因此预测期限越长,具体天气越难判断。地震和重大恐怖袭击等事件又缺少足够的可比较记录,使某些关键概率难以估计。经济和传染病预测还会遇到反馈:人们看到预测后采取行动,可能改变原先的发展路径。作者据此区分难以预测的单次结果与仍可研究的长期风险,避免把局部无能为力扩大成全面不可知。

6. 预测优势是相对的,激励也会扭曲预测

懂概率不保证能在市场或牌桌上获利,收益还取决于对手、价格和成本。预测机构追求的利益,也可能与预测准确性发生冲突。

为什么:在竞争环境里,别人已经掌握的信息通常很难继续提供优势。如果对手进步,即使自己的绝对能力没有下降,原来的盈利空间也可能消失。交易成本或牌局抽成还会进一步消耗这种优势。另一方面,如果机构能通过乐观预测获得更多业务,它就有动力保留有利假设,因此评价预测时也要检查谁付钱、谁获益。

反对意见

不能把一切好判断都归功于贝叶斯(加里·马库斯、欧内斯特·戴维斯)

两人在《What Nate Silver Gets Wrong》中指出,把多种信息结合起来,并不能证明实际使用了贝叶斯推断;先验难以确定时,贝叶斯也不是完整解决方案。他们批评本书对其他统计方法介绍不足。

更新规则不能替代专业知识与合理先验(王三、Benjamin C. Campbell)

两人在《Mr. Bayes Goes to Washington》中认为,本书有时让人以为坏模型只要加入更多贝叶斯思维就能改善。然而,更困难的是确定适合问题的先验;这需要认真研究具体领域,不能仅靠一套通用思考习惯。

强调不确定性,也可能造成错误的平衡(迈克尔·E.曼恩)

曼恩在《FiveThirtyEight: The Number of Things Nate Silver Gets Wrong About Climate Change》中批评气候章节混淆了真实的科学不确定性与人为制造的疑问。他认为,尚不清楚某些区域变化的细节,不会削弱人类导致全球变暖的核心结论;不确定性还可能意味着损害被低估。

相关推荐

导读由 AI 根据公开资料整理,没有读取原书全文,一切以原著为准。导读 Primer 首页