人工智能对全球秩序的三大挑战

摘要

AI给全球秩序带来了令人困惑的大量影响，本章将其分解为三个更容易处理的部分。本章主要侧重于第一个领域，这一领域迄今受到的关注最少。

1.首先是这种新技术对国内政治体制（如威权、混合或自由民主）的潜在影响如何影响它们在世界秩序中的竞争。AI将有助于使自由民主成为可信的竞争者，允许工业发达的大国在保持严格控制的同时使其公民富裕起来。中国现在正在建立这样一个数字威权体系的核心组成部分。在与自由民主的全球竞争中，这些制度已被效仿。

2.“第n次工业革命”：AI将彻底改变经济和社会部门的生产手段，例如运输、医疗或军事。

3.“奇点”与自我意识：在奇点中，指数级加速的技术进步创造出超越人类智能并逃避我们控制AI，可能摧毁人类或扰乱人类对自己的看法。

引言

现在大家认为AI似乎对一切都很重要。从人的意义；汽车自驾后裁掉Uber司机的社会影响；政治宣传；到机器人的崛起或消灭人类的超级智能。但AI令人困惑的丰富含义对全球秩序意味着什么？预测AI对全球秩序的挑战需要将其分解更易于处理的部分，因为这三个不同的挑战中的任何一个失败都将是灾难性的。如图2.1所示，三大挑战为：（1）全球秩序中相互竞争的政治体制类型；（2）“第n次工业革命”中社会各部门生产方式的变化；（3）“奇点”与自我意识。

本书主要集中在第一个领域即AI对全球秩序中处理国内政治制度的影响，因为其至关重要，却很少被研究。本章还介绍了其他一些挑战，原因有二。首先，因为全球战略必须涉及所有三个领域。这三大挑战中的每一项都需要在国家、联合国、企业和其他利益攸关方层面采取不同的思维和政策。其次，许多人争论AI对全球秩序的影响的潜在重要性和（或）紧迫性，最终讨论了不同的影响，因而各执一词。我们将其放一起探讨。

全球秩序中相互竞争的政权

新技术可能影响不同类型的国内政治制度的形式和（或）相对吸引力，例如威权、自由民主或结合每种政体特点的混合政体，这可能影响这些政体在全球秩序中的竞争。一个国内政权是一个社会组织系统，它不仅包括政府和国家机构，而且包括这些机构与更广泛的社会相互作用的结构和过程。不同类型的国内社会制度之间的竞争是20世纪全球政治的一个重要特征。虽然自由民主的最终胜利现在看来是不可避免的，但对于工业发达的大社会来说，两次世界大战期间的法西斯政权和更长时间的共产主义政权，是让其公民致富的可行途径。现在，与AI相关的新技术可以极大地帮助人们重新认识到，即更专制的政权可以使其公民富裕并维持社会控制。

本卷第三章和第二部分更详细地研究了数字威权政权。第四章和第三部分探讨了这种制度在全球竞争中的实施和仿效。

但在继续研究前，必须指出国内政治制度对全球秩序至关重要的多重原因。

图2.1AI对全球秩序的影响

• 首先，如上所述，它们可能提供对未来相互竞争的愿景，这些愿景可能在全球竞争中争夺摇摆国家的影响力。这只是国与国之间影响的一个潜在方面，但它可能像20世纪那样具有重大意义。如果大国发展了特定类型的国内政权，比如20世纪初的俄罗斯（即苏联式的共产主义政权）或21世纪崛起的中国，就会出现这种情况。
• 第二，国内政权的各个方面，如官僚或国内政治受众，可以深刻地影响外交决策的制定。第四部分探讨了数字权威主义的发展对中国外交决策的影响。
• 第三种观点认为，在全球体系中，某些类型的制度本质上或多或少存在问题。最突出的是“民主和平理论”的思想，它确定了国内结构与民主国家之间没有战争之间的关联，这是学者和从业人员中非常突出的概念（Russett,Layne,Spiro,andDoyle,1995）。

社会各部门生产方式的变化

第二个挑战是AI和大数据将彻底改变许多经济和社会部门的生产方式。会有赢家、输家和新的做事方式，这将搅乱全球社会。考虑三个部门，典型例子是交通：在Uber推出自动驾驶汽车后，所有失业的司机都将在哪里工作（Edwards,2017）？另一个是军事部门。无人机和AI可能会推动军事革命，这可能会破坏稳定（Horowitz,2018）。可能会有军备竞赛。第三个是庞大的医疗部门，约占美国GDP的18%（CMS.gov,2018），AI有望改变医疗决策和提供护理的方式（“Arevolutioninhealthcareiscoming,”2018）。人们基本上可以指向任何社会部门。

但到目前为止，并没有太多迹象表明这会比其他技术影响更大，例如那些对工业革命本身或互联网在20世纪90年代至21世纪的崛起作出贡献的技术影响。Uber司机被解雇与互联网随着亚马逊的崛起而减少零售业就业机会没什么区别，飞机、轮船、机枪或坦克都彻底改变了战争；互联网也是如此，网络现在是一个与陆地、海洋、空中和太空并列的军事领域。医疗保健的潜在变化令人兴奋，但强大的人力、监管和制度因素使医疗行业像超级油轮一样机动灵活。一个潜在的警告是，这些变化的快速性使它们变得不同，但正如第一章所描述的，让许多与AI相关的技术在现实世界中大规模工作意味着要克服许多棘手的实际问题，而下载软件更新并不能解决这些问题。

我们可以将其称为“第n次工业革命”，就像自20世纪40年代以来流行的“第四次工业革命”（Thornhill,2018）。这些变化及其带来的混乱需要管理，就像福利国家的创建和调整是为了管理工业化带来的社会混乱一样。需要逐部门规划。大部分将依赖于相对直接的、在政治上具有挑战性的手段，如福利网和为失业工人提供再培训。

由于多种原因，生产资料的变化对全球秩序很重要：

• 首先，二十世纪的历史表明，未能管理好国内社会混乱（如两次世界大战期间的德国）是如何扰乱全球秩序的。
• 第二，二十世纪的历史也说明了新军事技术如何影响力量平衡或战略稳定。本著作的第四章和第五部分探讨了军事方面相关问题。
• 第三，不同国家在其社会中如何利用新技术会影响到它们之间的相对力量平衡。一个例子是，虽然英国在最初的工业革命中占据了经济主导地位，但德国和美国对20世纪技术的利用同样出色，甚至略胜一筹。
• 第四，AI相关技术有可能改变国家之间的权力不平等。例如，如果机器人制造业变得高效，这可能会消除贫穷国家在为劳动密集型制造业（如纺织业）提供低技能工人时传统上拥有的一个关键优势。AI相关技术还可能加剧发达经济体之间的不平等，正如我们所看到的，美国科技巨头在欧洲或日本完全无法匹敌。

“奇点”与自我意识

奇点是许多AI科学家最关心的问题。其想法是，以指数级速度进步的技术将创造出一种超越人类智能、逃脱我们控制的AI（“What is the Singularity?,”2018）。这种超智能可能会有意或无意地摧毁人类，或引领人类进入一个富足的时代。正如Henry Kissinger所描述的，灾难性的后果可能不仅是物质上的，而且也适用于人类对自身的观念（Kissinger, 2018）。对他来说，最重要的问题是：“如果人类意识自身的解释力被AI超越，社会也无法用对他们有意义的术语来解释他们所居住的世界，那么人类意识将会变成什么样？”考虑到进步的速度，奇点可能会在本世纪的某个时间出现。

尽管意义重大，但考虑到没有人知道可能的奇点会在何时、是否以及如何发生，目前能够明智地谈论或计划的事情显然存在限制。以前存在的技术已出现奇点：核武器可以毁灭人类。的确，核武器为管理或防止奇点的全球努力提供了一个有用但不完善的类比。我们仍需要防止核战争时谨慎的管理和运气。防止核扩散是很困难的，尽管我们取得了相当大的成功，还是无法阻止朝鲜的核武器。有人能说服俄罗斯、中国或美国领导人停止被视为对其安全至关重要的AI项目吗？的确，这比Kissinger进一步关注人类对自身本性的理解更令人担忧。人类的自我中心主义是非常强大的，如果我们能（尽管有些摇摆）应对达尔文所讲的我们只是无毛猿，我们会幸免于这次新的揭露。

底线是，就像核武器一样，与奇点有关的问题将需要在国际秩序中尽我们所能进行管理，尽管我们的最大努力将不可避免地极不完善。奇点可能代表着人类面临的一个质的新挑战，我们需要在国际上思考和讨论这一挑战。

结论

全球战略必须应对AI给全球秩序带来的三大挑战。最受关注的是奇点和一场新的工业革命。因此，这项工作主要集中于AI对国内政治制度的影响对全球秩序构成的同样重要的

备注

1.参考例（Thompson,2017），但注意例（Manne&Maclean,2017）。

2.许多不同的术语如世界秩序、国际秩序、自由世界秩序或新世界秩序被使用和讨论。我更喜欢“全球系统”这个词。然而，在这里我避免使用系统一词，以防止可能出现的混淆，因为本章还讨论了全球秩序中许多其他层次的系统。例如，国内的政治体制可以被称为系统（见下文），而中国使用和规划的数字社会治理系统实际上是系统中的系统。