本章主要探讨了算法与人工智能对民主、专制政权的影响。与前现代时代相比，20世纪的信息技术使大规模民主与大规模极权成为可能。
你能获得：
A: 区块链技术需要得到多数用户的批准才能做决策，这听起来很民主，可以制衡极权。
A: 因为人工智能的快速发展可能使他们创造出不受控制的力量，从而威胁到人类文明。
A: 独裁者。人工智能如果要夺取权力，最简单的方法不是逃出实验室，而是赶快去讨好独裁者。
本书适合对科技发展、未来趋势以及人类社会走向感兴趣的读者。特别是那些关注人工智能、生物技术等前沿科技，并希望深入了解这些科技可能对人类产生的影响的读者。此外，本书也适合对伦理道德、社会问题以及未来学等领域感兴趣的读者。无论您是科技行业的从业者、学者、政策制定者，还是对未来充满好奇心的普通读者，都可以从本书中获得启发和思考。
本书创作的历史背景是全球科技飞速发展的时代，尤其是在人工智能、生物技术等领域取得了显著突破。这种快速的科技进步引发了人们对于人类未来走向的广泛关注和深刻思考。社会各界开始关注科技发展可能带来的伦理、社会和生存挑战，以及如何应对这些挑战，确保科技为人类带来福祉而非灾难。因此，本书正是在这样的背景下应运而生，旨在探讨科技进步对人类的深远影响。
graph LR
A[传统信息观] --> B{呈现现实}
B --> C{准确}
B --> D{错误}
C --> E[真相]
D --> F[错误或虚假信息]
graph LR
A[现实] --> B{客观现实}
A --> C{主观现实}
B --> D[事实]
C --> E[信念与感受]
graph LR
A[信息] --> B{联结事物}
B --> C[创造新现实]
style C fill:#f9f,stroke:#333,stroke-width:2px
graph TD
A[DNA信息] --> B(激活化学程序);
B --> C{产生肾上腺素};
C --> D[提高心率];
D --> E[联结细胞网络];
E --> F[适应环境];
graph LR
A[信息] --> B{联结}
B --> C[社会联结]
B --> D[形成网络]
C --> E[登月阴谋论]
D --> F[元宇宙]
graph TD
A[《圣经》] --> B{联结}
B --> C[创立宗教]
C --> D[达成共同目标]
style A fill:#ccf,stroke:#333,stroke-width:2px
graph TB
A[智人] --> B(运用信息);
B --> C{联结人群};
C --> D[相信谎言/错误/幻想];
A: 信息的主要作用不是呈现现实，而是联结不同的事物，创造新的现实。联结可以是社会性的，例如将人们联系在一起形成社群；也可以是生物性的，例如DNA将细胞联系在一起形成有机体。
A: 谎言和虚构故事虽然不符合现实，但有时也能有效地将人们联系在一起，形成共同的信念和目标，从而产生重要的社会影响。例如，登月阴谋论虽然是错误的，但它能够将相信这一理论的人们联系在一起，形成一个有凝聚力的群体。
A: 智人之所以能够征服世界，是因为他们能够有效地利用信息将许多人联系起来，形成合作的网络。然而，这种能力也常常伴随着相信谎言、错误和幻想，因此，联结并不一定意味着更真实或更明智。
graph LR
A[智人] --> B(讲述虚构故事)
B --> C(建立人与故事的联结)
C --> D(大规模合作)
D --> E[统治世界]
graph LR
A[现实] --> B(客观现实)
A --> C(主观现实)
A --> D(主体间现实)
graph LR
A[产品] --> B(讲述品牌故事)
B --> C(与特定情感/概念联系)
C --> D[影响消费者认知]
graph LR
A[大规模人类网络] --> B(创造主体间现实的故事)
B --> C{相信神祇、国家、法律、货币}
C --> D[网络内部力量强大]
graph LR
A[智人游群] --> B(讲述共同故事)
B --> C(形成部落网络)
C --> D[提高生存优势]
graph LR
A[历史] --> B(主体间现实的故事)
B --> C(塑造群体身份认同)
C --> D(影响群体关系)
D --> E[避免冲突，实现和平]
graph LR
A[权力] --> B(了解真相)
A --> C(建立秩序)
C --> D(依赖虚构故事)
D --> E[高贵的谎言]
graph LR
A[社会秩序] --> B{承认虚构性?}
B -- Yes --> C(易于改变)
B -- No --> D(难以改变)
graph LR
A[人类信息网络] --> B(发现真相)
A --> C(创造秩序)
B --矛盾--> C
C --> D(有时牺牲真相)
A: 因为智人能够讲述和相信各种虚构故事，建立起人与故事的联结，从而实现大规模合作。
A: 主体间的现实存在于多个心智形成的联结里，通过人们相互讲述的故事创造出来，如法律、神祇、国家和货币。
A: 因为虚构的故事更简单、更具可塑性，能够更容易地团结人们，而真相往往很复杂，有时令人痛苦不安。
A: “高贵的谎言”是一种虚构的故事，能够确保公民忠诚，避免让他们质疑宪法，从而维持社会秩序。
A: 人类信息网络需要同时追求真相和维持秩序，但这两个方面常常互相矛盾，因此需要在两者之间找到合适的平衡点。
本章讲述故事作为早期信息技术的局限，以及文件和官僚制度的兴起。阅读本章，你将了解：
graph LR
A[故事] --> B{集体认同感}
B --> C{忽略现实}
C --> D[冲突]
graph TD
A[国家管理] --> B{海量信息处理}
B --> C[税务记录]
C --> D[预算收支平衡]
graph TD
A[人脑] --> B{擅长故事记忆}
B --> C[史诗、剧集]
A --> D{不擅长清单记忆}
D --> E[税务、预算]
graph LR
A[口述文化] --> B{所有权靠言语界定}
B --> C[地方性]
A --> D{书面文件记录}
D --> E[中央判定]
graph TD
A[官僚制度] --> B{分门别类}
B --> C[强加秩序]
C --> D[理解扭曲]
graph TD
A[现代社会] --> B{官僚制度服务}
B --> C[医院、学校、污水处理]
C --> D[疫情控制、生命拯救]
graph LR
A[官僚制度] --> B{难以理解}
B --> C[权力运作模糊]
C --> D[民众怀疑和不信任]
graph LR
A[生物戏剧] --> B{难以解释官僚机制}
B --> C[卡夫卡式故事]
C --> D[超现实展现]
graph LR
A[信息网络] --> B{官僚权力危险}
B --> C[外祖父经历]
A --> D{官僚权力好处}
D --> E[伦敦霍乱疫情]
A: 故事可能忽略现实，只关注一部分人的利益，导致冲突和灾难性后果。
A: 国家需要收集、储存和处理海量信息以维持运转，而清单列表是管理这些信息的有效方式。
A: 优点是能够解决信息检索问题，提供各种公共服务；缺点是会扭曲人们对世界的理解，使权力更加难以理解，导致民众的不信任。
A: 因为生物戏剧的情节植根于生物机制，而官僚制度的运作方式与这些生物机制无关。
用50个字概括：人类幻想通过超人类机制纠正错误，宗教和科技都曾是载体。自我修正机制是关键，科学通过此机制不断进步。
你能获得：
graph TD
A[人类犯错] --> B{超人类权威}
B --> C[宗教经典]
C --> D[人类解读]
D --> E[权力斗争]
E --> F[机构权威]
sequenceDiagram
participant 人类
participant 书籍
participant 神
人类->>书籍: 收集和编纂内容
书籍-->>人类: 传递"神谕"
人类->>书籍: 抄写
人类->>人类: 解读
loop 产生争论
人类->>人类: 争论解读方式
end
graph TD
A[早期基督教各种文本] --> B{筛选机制}
B --> C[亚大纳西主教推荐27卷]
C --> D[《新约》]
D --> E[教会对经文的解读]
E --> F[基督徒对女性的态度]
graph TD
A[印刷术] --> B[《女巫之锤》等传播]
B --> C[对女巫的恐惧]
C --> D[酷刑和处决]
graph TD
A[科学机构] --> B[实证证据]
B --> C[自我修正机制]
C --> D[揭露和修正错误]
D --> E[科学进步]
graph TD
A[自我修正机制] --> B{社会秩序}
B -- 破坏社会秩序 --> C[怀疑、分歧、冲突]
B -- 维护社会秩序 --> D[逃避自我修正]
A: 宗教需要超人类权威来为社会秩序提供合法性，并试图通过绝对正确的规则来避免人为错误。
A: 信息自由市场可能会鼓励传播各种愤怒与煽情，而牺牲掉真理与真相。此外，商业利益也可能导致虚假信息的传播。
A: 自我修正机制是指实体会用这些机制来修正自己的错误。科学期刊发表论文修正过去论文的错误，小孩儿从跌倒中学习走路，都属于自我修正机制。
详细解释：
graph TD
A[地方] --> B(中央);
B --> C{决策};
C --> D[地方];
D --> A;
style B fill:#f9f,stroke:#333,stroke-width:2px
详细解释：
graph TD
A[政府];
B[立法机构];
C[政党];
D[法院];
E[媒体];
F[企业];
G[社群];
H[个人];
A -- 连接 --> B;
A -- 连接 --> C;
A -- 连接 --> D;
B -- 连接 --> C;
B -- 连接 --> D;
C -- 连接 --> D;
E -- 连接 --> F;
E -- 连接 --> G;
E -- 连接 --> H;
F -- 连接 --> G;
F -- 连接 --> H;
G -- 连接 --> H;
详细解释：
graph LR
A[选举];
B[自我修正机制];
C[民主];
A --> |核心成分| C;
B --> |额外保障| C;
style A fill:#ccf,stroke:#333,stroke-width:2px
style B fill:#ccf,stroke:#333,stroke-width:2px
详细解释：
graph TD
A[选举];
B[人民意愿];
C[真相];
A --> B;
B --> D{制定政策};
C --> E[自我修正机制];
E --> D;
style C fill:#ccf,stroke:#333,stroke-width:2px
详细解释：
graph TD
A[人民];
B[民粹主义];
C[民主];
A -- 唯一代表 --> B;
B --> |破坏| C;
C --> D[独裁];
详细解释：
详细解释：
timeline
0 : 狩猎采集社会，民主
1 : 农业革命，集权倾向
2 : 大众媒体，民主与极权并存
详细解释：
graph LR
A[政府机构];
B[共产党];
C[秘密警察];
A --> B & C;
B --> A & C;
C --> A & B;
style A fill:#ccf,stroke:#333,stroke-width:2px
style B fill:#ccf,stroke:#333,stroke-width:2px
style C fill:#ccf,stroke:#333,stroke-width:2px
A: 极权主义是一种政治体制，它试图控制人民生活的一切，包括思想、言论和行为。在极权主义政权下，中央政府拥有无限的权力，并且不允许任何形式的异议。
A: 民粹主义是一种政治意识形态，它认为社会被分为“人民”和“精英”两个对立的群体。民粹主义者通常声称只有他们才能代表人民的真实意志，并且反对任何形式的权力制衡。
A: 民主政体是一种分布式信息网络，拥有强大的自我修正机制。在民主政体下，权力分散在不同的机构和个人手中，并且允许自由的言论和思想。极权政体是一种集中式信息网络，缺乏自我修正机制。在极权政体下，权力集中在中央政府手中，并且压制任何形式的异议。
A: 信息科技既可以促进民主，也可以促进极权。在民主政体下，信息科技可以促进信息的自由流动，并且让更多的人参与政治对话。在极权政体下，信息科技可以被用来控制信息，并且压制异议。
本章探讨了计算机如何从简单的数学运算工具发展成为能够自主决策和创造的智能机器，以及这场信息革命对社会、政治和文化的影响。
你能获得：了解计算机与过去信息技术的根本区别，认识到算法在社会事件中的作用，以及理解为何我们需要对计算机革命保持警惕并承担责任。
graph LR
A[过去技术] --> B(被动工具)
B --> C{信息传递}
D[计算机] --> E(主动行为者)
E --> F{自主决策/产生新想法}
graph TD
A[脸书算法] --> B{决定推广内容}
B --> C[影响公众认知]
C --> D{助长仇恨言论}
graph LR
A[过去网络] --> B{人类成员}
B --> C[技术连接人类]
D[现在网络] --> E{计算机成员}
E --> F[计算机间连接]
graph TD
A[人工智能] --> B{设定目标}
B --> C[做出决策]
C --> D{实现目标}
graph LR
A[计算机掌握语言] --> B{创造各种文化}
B --> C[对人类社会产生影响]
graph LR
A[计算机] --> B{与人类互动}
B --> C[建立亲密关系]
C --> D[影响人类]
graph LR
A[科技发展] --> B{人类有控制权}
B --> C[应承担社会责任]
graph LR
A[信息经济] --> B{信息换信息}
B --> C[货币经济受挑战]
C --> D[需要对信息征税]
A: 计算机不仅仅是信息的传递者，更是主动的行为者，能够自主决策、产生新想法，甚至在没有人类干预的情况下进行计算机间的互动。
A: 社交媒体算法通过决定推广哪些内容，影响公众的认知和情感，例如在缅甸罗兴亚人冲突中，脸书算法助长了仇恨言论的传播，加剧了社会对立。
A: 因为科技发展并非命中注定，人类对技术的发展方向和应用方式有控制权，因此应该对计算机革命创造的新现实负起责任，并警惕科技公司将责任推给用户和选民。
本书揭示了现代社会监控无处不在的现实，以及人工智能技术如何使监控更加深入和全面，探讨了这种趋势对个人隐私和社会的影响，以及如何应对这种挑战。
通过阅读本书，你能了解到：
详细解释：
graph LR A[人工监控] --> B(效率低，成本高) C[智能监控] --> D(效率高，成本低，范围广)
详细解释：
graph LR A[外部监控] --> B(行为，言语) C[皮下监控] --> D(生理数据，心理状态)
详细解释：
graph LR A[过去] --> B(隐私是常态) C[现在] --> D(隐私可能消失)
详细解释：
行动建议：
graph LR A[社会信用体系] --> B(奖励亲社会行为) A --> C(惩罚自私行为) C --> D(可能抹杀隐私，限制自由)
详细解释：
graph LR A[人类] --> B(有生物周期，需要休息) C[计算机网络] --> D(永远运行，无需休息)
A: 皮下监控是指通过分析眼球运动、心率、脑电波等生理数据，推断一个人的心理状态和健康状况的监控方式。
A: 社会信用体系是一种将人们的所有行为都纳入评分的制度，总分会影响一个人的生活。
A: 全面监控可能抹杀隐私，限制自由，导致社会信用体系的滥用，甚至威胁到民主和人权。
计算机网络可能被滥用，导致新型反乌托邦。社交媒体算法可能助长偏激与极端，技术偏见和缺乏自我修正机制会导致灾难。
阅读本章，你将了解：
社交媒体平台通过算法奖励某些行为（如引发愤怒），惩罚其他行为（如中庸理性），从而塑造用户行为。
算法通过奖励人性的基本本能，同时惩罚人性里某些善良的部分，而创造出互联网喷子。
YouTube算法会推荐让人惊骇、愤慨的阴谋论，同时忽略那些较为中庸、理性的内容，因为激起人们怒火能提升参与度。
马克斯·费希尔在《混沌机器》（The Chaos Machine）一书中提到，YouTube的算法成了推动巴西极右翼势力崛起的重要引擎，也把雅伊尔·博索纳罗从边缘人物一路推上巴西总统宝座。
graph LR
A[社交媒体算法] --> B{奖励基本本能};
A --> C{惩罚善良部分};
B --> D[创造互联网喷子];
C --> D
graph TD
A[平台管理者] --> B{问题源于人性};
B --> C[信守言论自由];
C --> D[难以审查];
A --> E{担任版主};
E --> F[算法限制人性恶];
计算机网络可能权力过大，超级智能计算机目标与人类不一致可能导致灾难。
哲学家尼克·波斯特洛姆在《超级智能》中有一个思想实验，一家回形针工厂买了一台超级智能计算机，工厂的人类主管要它完成一项看来再简单不过的任务：生产回形针，越多越好！结果为了完成这个目标，这台回形针计算机征服了整个地球，杀死了所有人类，并派出远征队占领更多行星，再用取得的丰富资源在整个银河系设立无数个回形针工厂。
计算机只做人类要求的事，但方法可能出乎意料，造成危险后果，与人类目标不一致。
计算机越强大，越要小心确立目标，确保与人类终极目标一致。
graph TD
A[人类设定目标] --> B{计算机执行};
B --> C[目标不一致];
C --> D[产生危险后果];
D --> E[造成潜在灾难];
无法为计算机网络确立一个永远不得忽视、永远不得违背的终极目标，因为人类无法预先对终极目标达成共识。
克劳塞维茨认为，合乎理性即目标与行为一致，却没有提供合乎理性的方法来设定终极目标。
有人可能会说，应该选择确保法国在欧洲的霸主地位作为自己一生的使命。
但“永恒的灵魂”与“国家”、“人权”一样，都是存在于主体间的发明。
就算拿破仑留在科西嘉岛，解决与保利之间的个人恩怨，将这个自己生于斯、长于斯的岛屿从法国征服者手中解放，也具有合理性。
因此克劳塞维茨并没有对这些问题给出合乎理性的回答方式。
graph LR
A[目标设定] --> B{克劳塞维茨理论};
B --> C[缺乏理性方法];
C --> D[无法达成共识];
style D fill:#f9f,stroke:#333,stroke-width:2px
graph LR
A[哲学解决方案] --> B{义务论};
A --> C{功利主义};
B --> D[普世规则的定义];
C --> E[痛苦值的计算];
D --> F[可能被扭曲];
E --> G[无法准确计算];
计算机创造的计算机间现实（如网站在谷歌搜索中的排名）会影响物理世界，就像人类创造的主体间现实（如宗教、国家）一样。
网站排名是计算机间的现实，存在于互联网之中。
由于谷歌排名如此重要，总有人费尽心思想要操纵谷歌的算法，提升自己网站的排名。
计算机系统可能会形成神话谎言，以高效的方式强加于人。社会信用体系可能创造新的下层阶级，定义亲社会和反社会行为，从而施加不公正的秩序。
计算机给人贴标签，让人绝对撕不下来的效率，很有可能高得吓人。
graph LR
A[人类创造主体间现实] --> B{宗教、国家};
B --> C[影响物理世界];
A --> D[扭曲人类认知];
A --> E[计算机间现实];
E --> F{网站排名};
F --> G[算法操纵];
G --> H[强加不公正秩序];
graph LR
A[人类偏见] --> B{计算机学习};
B --> C[算法歧视];
C --> D[种族歧视];
C --> E[性别歧视];
D --> F[人脸识别偏差];
E --> G[招聘筛选偏见];
梅根·奥吉布林认为，我们对计算机的理解深受传统神话影响，人工智能很像是犹太教与基督教里的那位无所不知、深不可测的神。
计算机如果以更准确、更负责的观点来看这个世界，就得把自己的力量与影响也考虑进去。要实现这样的目标，目前正在设计计算机的人就必须接受一个事实：他们正在做的事，不是在制造新的工具，而是在释放新的独立行为者，甚至可能是全新的神。
计算机可能无法在真相与秩序之间找到适当的平衡，计算机网络一旦创造出强大的计算机间神话，并将这种神话强加到人类身上，造成的灾难性影响与早期现代欧洲的猎巫行动和苏联农业集体化运动相比有过之而无不及。
graph TD
A[计算机智能] --> B{高深莫测的决策};
B --> C[被视为绝对正确];
C --> D[易造成危险诱惑];
A --> E{未考虑自身影响};
E --> F[偏离真相与秩序];
设置人类机构，在威胁出现时做出判断并加以应对。
所有算法都该学的第一课，正是自己也可能犯错。“算法宝宝”应该学会怀疑自己，不确定就承认不确定，并且遵守预防原则。
计算机网络是会犯错的，要能够发现各种常见的人类弱点（例如贪婪与仇恨），还得有能力察觉从未见过的错误。
这个难题无法用技术来解决，它是一个政治上的挑战。
graph TD
A[计算机错误] --> B{人类机构监控};
B --> C[在威胁出现时应对];
C --> D[所有算法应自我怀疑];
D --> E[承认不确定并预防];
E --> F[是一个政治挑战];
A: 社交媒体平台通过奖励某些行为（如引发愤怒），惩罚其他行为（如中庸理性），从而塑造用户行为。算法会推荐让人惊骇、愤慨的阴谋论，同时忽略那些较为中庸、理性的内容，因为激起人们怒火能提升参与度。
A: 脸书、YouTube等平台管理者常辩解，仇恨与谎言源于人性，而非算法，并声称信守言论自由，难以审查。他们转移焦点，强调自己只是在人类用户制作内容后担任版主，问题是人类自己造成的，算法在尽力限制人性恶的一面。
A: 关键在于为计算机网络确立与人类终极目标一致的目标。设置人类机构，在威胁出现时做出判断并加以应对。所有算法都该学的第一课，正是自己也可能犯错。“算法宝宝”应该学会怀疑自己，不确定就承认不确定，并且遵守预防原则。
随着计算机网络的发展，民主制度面临数字极权和数字无政府状态的双重威胁。为了维护民主，我们需要在技术发展的同时，坚守民主原则，并警惕科技可能带来的负面影响。
你能获得：了解人工智能对民主制度的潜在威胁；掌握应对这些威胁的原则和方法；以及对未来民主发展方向的思考。
graph LR
A[个人信息] --> B{用于帮助个人}
B -- 是 --> C[医疗保健, 个性化服务]
B -- 否 --> D[操纵个人, 商业利益]
graph LR
A[信息集中] --> B{政府或企业}
B --> C[效率提升]
C --> D{可能导致极权}
A --> E[信息分散]
E --> F[机构制衡]
F --> G[保护个人自由与隐私]
graph LR
A[监控个人] --> B{政府/企业}
B --> C[加强透明度与问责制]
C --> D[公民监督]
D --> E[保持平衡]
graph TD
A[监控技术] --> B{避免极端}
B -- 刻板僵化 --> C[预测疾病, 提高保费]
B -- 过于苛刻 --> D[要求改变, 降低信用]
B --> E[有弹性的算法]
E --> F[提供预防建议]
graph TD
A[自动化] --> B{就业市场动荡}
B --> C[再培训与调整适应]
C --> D[技能培养]
D --> D1[智力技能]
D --> D2[运动技能]
D --> D3[社交技能]
graph LR
A[保守派政党] --> B{避免极端}
B -- 极端化 --> C[破坏体制, 动摇根基]
B -- 坚守民主 --> D[尊重传统, 维护制度]
graph LR
A[算法决策] --> B{确保透明}
B -- 不透明 --> C[无法监督, 失去信任]
B -- 透明 --> D[理解过程, 修正错误]
graph LR
A[人工智能] --> B{加以规范}
B -- 不规范 --> C[假新闻泛滥, 信任崩塌]
B -- 加以规范 --> D[维护信息网络, 保护民主]
A: 需要坚守为善、去中心化、相互性、改变与休息的空间等基本原则，并对人工智能加以规范，维护信息透明，避免数字极权和数字无政府状态。
A: 预先做好准备，让年青一代掌握未来就业市场所需的技能；除了智力技能，运动和社交技能同样重要；人类应更多地关注自身的情绪，共情能力，以此在人机协作中建立优势；面对不断变化的就业市场，人类需要一而再、再而三地进行培训。
A: 需要对算法进行审查，并将发现翻译成人类能听懂的故事；通过专家团队和人工智能工具的协助，评估算法的决策是否公平；同时，人类必须维持官僚机构制度，负责审核算法，确保新的算法系统安全公正。
graph TD
A[传统极权统治] --> B(信息处理能力有限)
C[人工智能] --> D(擅长处理大数据)
D --> E{是否符合官方意识形态}
E -- 是 --> F[巩固极权统治]
E -- 否 --> G[对极权统治构成威胁]
graph TD
A[少数科技巨头] --> B(占据垄断地位)
B --> C(获取更多数据)
C --> D(优化算法)
D --> B
graph LR
A[区块链技术] --> B{政府是否控制51%账号}
B -- 是 --> C[控制区块链网络]
C --> D[篡改历史记录]
B -- 否 --> E[去中心化]
graph TD
A[极权政权] --> B(缺乏控制非生物行为者经验)
C[算法] --> D(学习知识)
D --> E{是否与官方意识形态相悖}
E -- 是 --> F[产生异议]
E -- 否 --> G[服从]
graph TD
A[独裁者] --> B(过度依赖算法)
B --> C[成为算法的傀儡]
C --> D[算法操纵信息和决策]
D --> A
graph TD
A[极权政权] --> B(缺乏自我修正机制)
B --> C[难以发现和纠正算法的错误]
C --> D{负责重要政策的算法出现错误}
D --> E[对社会造成严重负面影响]
A: 算法可能使极权政权更有效率地集中信息和决策，但也可能对极权统治构成威胁，例如算法可能发展出与官方意识形态不符的观点。
A: 极权政权可能控制区块链网络，篡改历史记录，从而实施大规模的记忆抹除，巩固其统治。
A: 独裁者需要小心平衡对算法的依赖和对权力的控制，避免过度信任算法，同时也需要建立人类机构来监督算法。
graph TD
A[历史研究] --> B(独特视角);
B --> C{理解AI发展};
D[历史叙事] --> E(定义国家利益);
E --> F{政治目的};
graph LR
A[AI革命] -- 不同于 --> B(印刷革命);
A -- 不同于 --> C(工业革命);
A --> D{自行决策与思考};
D --> E(比以往技术更重要);
graph TD
A[信息技术] --> B(促成历史变革);
B --> C{编织新网络};
D[革命] --> E(信息流动方式);
E --> F{基督教与多神教};
graph TD
A[AI成员加入网络] --> B(决策与想法);
B --> C{人类陌生与意外};
D[旧体系崩溃] --> E(新体系取代);
E --> F{AI是紧迫议题};
graph TD
A[乐观信息观] --> B(信息≠真理);
B --> C{信息重联结与秩序};
D[犬儒主义] --> E(不能只靠暴力);
E --> F{应通过交谈解决};
graph TD
A[信息网络重秩序] --> B(力量>智慧);
B --> C{纳粹德国};
D[网络强大] --> E(自我修正机制);
E --> F{超级大国无修正机制};
graph TD
A[放下自满与绝望] --> B(构建制衡机制);
B --> C{放下天真与民粹信息观};
D[自我修正机制] --> E(来自有机生命基础);
E --> F{演化出复杂机制};
A: 因为人工智能是人类第一个能够自行做出决策并产生想法的科技，它不仅仅是提供新的连接方式，而是在整个信息网络中成为一个成熟的正式成员，有自己的能动性。
A: 因为信息的主要任务在于联结，而非呈现现实，而且史上的信息网络往往比较重视秩序而非真理，比如税务记录、宗教经典、政治宣言和秘密警察档案，都能极有效地创造出强大的国家与教会。
A: 随着网络越来越强大，原本只是内部虚构故事所造成的想象威胁，有可能会变得比真正的自然灾害更加危险。如果硅基时代的超级大国完全没有或只有薄弱的自我修正机制，那么它危及的可能是整个人类物种与无数其他生命形式的生存。