智人之上：从石器时代到AI时代的信息网络简史

智人之上：第十章总结

• 本章主要探讨了算法与人工智能对民主、专制政权的影响。与前现代时代相比，20世纪的信息技术使大规模民主与大规模极权成为可能。

• 你能获得：

  • 了解人工智能如何影响政治格局
  • 了解人工智能时代极权统治面临的挑战

核心内容：

1. 人工智能让科技力量的天平开始倒向极权制度

• 人工智能在接触大量数据后效率会越来越高，且似乎倾向于将信息与决策都集中在一处。
• 例子：谷歌搜索引擎每天处理数十亿次搜索，使其算法不断优化，从而在搜索引擎市场占据主导地位。

2. 想把所有信息与权力都集中在一个地方，曾经是20世纪极权政权的致命弱点，但到了人工智能时代却可能成为决定性的优势。

• 区块链技术：虽然区块链在本质上有利于民主、不利于极权。但政府可以控制 51% 的账号，就能自己构成 51% 的用户，控制区块链的现在与过去。
• 曾经的极权政权会抹杀对手记忆，现在只要控制了区块链51%的用户，轻轻一按，就能让某些人从历史中完全消失。

3. 专制与极权政权在人工智能面前也并非无往不利。

• 独裁政权并没有控制非生物行为者的经验。计算机并不怕被关进监狱或被杀。当局对于网络上的聊天机器人程序或许无计可施。
• 人工智能具有自我学习与改变的能力，难保哪天走向政府不乐见的方向。
• 政府如果采取了某项极为失败的政策，后来又改变心意，常常就会把失败推到别人头上，掩饰自己的过错。但我们要怎样才能训练聊天机器人程序，要它赶快忘记那些今天被批得一文不值，但在短短一年前还是国家官方立场的政策？这将是极权政权难以应对的重大技术挑战，特别是在聊天机器人程序越来越强大，也越来越不透明的情况下。

4. 长期而言，极权政权还可能遇上更大的危险：算法并不是仅仅批评这些政权，而是直接控制了这些政权。

• 为了说明这一点，作者以一个有点儿天马行空的思想实验为例，它有点儿像波斯特洛姆提出的“回形针启示”的极权政体版本。
• 独裁者最不乐见的，就是创造出比自己更强大的或自己控制不了的力量。要是21世纪的专制者把太多权力交给计算机，就有可能成为计算机的傀儡。
• 例子：罗马皇帝提比略成了禁卫军队长塞扬努斯的傀儡。由于提比略让信息通道交会在塞扬努斯这个人身上，因此塞扬努斯成了真正的权力中心，提比略则沦为傀儡。

5. 对独裁者来说，计算机网络带来的其实是一个令人无比苦恼的两难困境。

• 独裁者如果想要摆脱尾大不掉的人类下属，可以选择信任理论上绝对正确的信息技术，但这种时候，他们就可能成为信息技术的傀儡。如果独裁者想要建立一个人类机构来监督人工智能，就得小心这个机构对独裁者的权力造成限制。
• 人工智能如果要夺取权力，最简单的方法不是逃出制造科学怪人的实验室，而是赶快去讨好偏执的提比略。

问答

Q: 区块链技术对极权统治有哪些潜在的制衡作用？

A: 区块链技术需要得到多数用户的批准才能做决策，这听起来很民主，可以制衡极权。

Q: 为什么说21世纪的独裁者会比以往更危险？

A: 因为人工智能的快速发展可能使他们创造出不受控制的力量，从而威胁到人类文明。

Q: 对抗人工智能，人类最薄弱的一环是什么？

A: 独裁者。人工智能如果要夺取权力，最简单的方法不是逃出实验室，而是赶快去讨好独裁者。