第280章 末日（二）（1 / 2）

而在实际场景中，其中一种思路往往更有效。我经常在被问到最喜欢的电影、电视剧或书籍是什么。不出所料，当我列出清单时，总会收到回复说，其中很多也是他们的最爱——这并不奇怪，我是科幻迷，观众里也有很多科幻迷，这和我们的主题高度相关。我能观测到这些喜好清单，或是你们现在能看到它们，确实和我们的存在本身密切相关。

反过来说，如果我们调查最喜爱的食物，就不会预期出现与全体人类相比异常偏高的偏好，尽管可能会因地域或其他因素产生偏差。

需要强调的是，这两个概念并非相互对立，我们一直在同时使用它们，只是具体场景会决定哪个更适用，并将其简化为一种常见、甚至有些枯燥的思维练习。

当我们所知甚少，却探讨世界末日、神是否存在、你是否可能只是计算机模拟产物这类话题时，这些概念能引发更深的兴趣，但也往往会掩盖一个工具的本质：它既简单，又具有深刻的决策价值。

在切入我们今天第二个、也是主要的话题**超级智能**之前，我先做一个和**邓宁-克鲁格效应**相关的类比。

如果我们把一个人对某个主题或问题的信心，与其掌握的相关知识绘制成图，会得到类似双峰曲线的形状：起初信心很低，但会急剧上升，随后随着知识增加而下降，最终再次回升。我常把这个阶段称为“愚蠢之巅”，这似乎是一个很受欢迎的“停留地”，或许我们所有人都时常在这里驻足。

不过我现在提到它，更多是为了说明我们通常如何做决策：我们常常能依据极少的信息做出非常自信的判断，而随着了解增多，信心反而下降，直到最终掌握足够信息，才会重新对决策充满信心。有时，了解更多甚至会让我们质疑正确的结论，进而做出错误选择，但这不是我此刻的重点。

我一直强调，人择原理主要关乎**信息匮乏时的决策**，它帮助你做出有信心的决策，不是因为你认为这个决策极有可能正确，而是因为你知道，基于现有信息，这是最优选择。如果获得更多信息，你可以修正判断，但在此期间，你可以做出决策并采取行动，清楚这个决策本身是合理的——无论它最终是否正确。

如果一个选项的正确概率是其他选项的两倍，那它就是最优选择，哪怕它的绝对成功率很低。如果有人即将掷一对骰子，而你必须猜点数之和，你应该选7，而不是2或12，更不是1或100——因为7的概率最高，2和12最低，1和100则看似不可能。如果你后来发现这不是六面正方体骰子、点数不是1到6、或是两颗骰子都heavily倾向于掷出6，你再相应修正判断即可。

现在，邓宁-克鲁格效应也适用于人类对超级智能的思考。重要的是要明白，我们所有人都会停留在“愚蠢之巅”，因为人生的时间有限，能学习的东西有限，激发我们去学习各类知识的兴趣与需求也有限。这些知识可以包括如何成为好的交谈者、有说服力的演讲者——这些都是可习得的技能，和扔球、做计算一样。

无论我们接下来要讨论的三种超级智能中的哪一种，都理应在这类技能上远超人类。因此，在探讨这些概念时，我们最好摒弃虚构作品带来的偏见：不要觉得计算机大脑或超人类会像冰格一样毫无个人魅力。

我在之前提到过：一个想要统治世界的人工智能，大概率不会靠军团杀手机器人和核武器实现目标，反而更有可能通过普选上台。没错，它可能会利用自身更理性、更博学的特点作为优势，但总体而言，我认为无论超级智能的来源是计算机意识还是超人类，它绝对会运用魅力与社交技巧。

那么，什么是超级智能？尼克·博斯特罗姆将其大致分为三类，我沿用他的分类：

**第一类：速度型超级智能**

这是我们在之前的超人类主义中讨论过的类型。本质上，智能的提升仅体现为**思考速度加快**。这通常是人们最容易想象的形式，有点类似于你周围的世界整体慢了下来。用计算机术语来说，就是**处理器更快**。

**第二类：集体型超级智能**

这或许是你最熟悉、某种程度上已经存在的超级智能类型。它的范围很广：从结构松散的集体（比如拥有专业技能分工的部落），一直扩展到整个文明，或是共同推动领域发展的专家团队；再到更直接的高带宽集体——你甚至可以认为其中只有一个意识，个体更像是某个整体的器官，或是集体大脑的脑叶。用计算机术语来说，就是**多处理器或联网计算机**。

**第三类：质量型超级智能**

这是最难想象的一类，只能通过对比理解。它不是加快处理器速度，也不是增加并行处理器数量，而是某种可以大致归为**软件层面**的提升。

一只猫就算大脑运转更快，也不可能发现微积分；一百只猫联网并行也做不到。对人类而言，一位训练有素、才华横溢的科学家或艺术家，在其正常职业生涯中产生的洞见或深度成果，会远超一个有十倍主观时间研究问题的普通人，或是十个普通人组成的委员会。

再用一次邓宁-克鲁格效应：我们会认为这三类超级智能都极少停留在“愚蠢之巅”。