人工智能战场是什么样子

彼得·莱顿

2021年3月9日

人工智能技术是为满足商业需要而开发的，正在迅速成熟。现在由军队用于获得最好的作战优势。

人工智能技术对军队很重要。现在还没有到军备竞赛的程度，今天的竞争更像是一场实验竞赛，大量的人工智能系统正在测试和研究中心的建立。这个国家首先充分理解人工智能，足以改变其现有的以人为中心的部队结构，并接受人工智能战争，可能会获得相当大的优势。

在为澳大利亚政府准备的一份新论文中，我探讨了适合打未来近中期人工智能战争的海、陆、空作战概念。这种时间上的接近使得这种投机行为比想象的要少。此外，当代'狭义'AI的性质意味着其初始利用将在现有的作战层面结构中，而不是全新的结构中。

AI 允许机器通过推理而不是设置机械响应来完成其任务。在近期内，AI 的主要吸引力将是它能够快速识别模式和检测隐藏在非常大的数据宝库中的物品。在赋予移动系统新的自主权的同时，这一特性的主要意义在于人工智能将使整个战场上更容易感知、定位和识别对象。隐藏将变得越来越困难。然而，人工智能并不完美。它在脆弱、能够被愚弄、无法将一项任务中获得的知识转移到另一项任务中获得的知识以及数据依赖性方面有着众所周知的问题。

因此，人工智能的主要作战效用似乎是'寻找和愚弄'。AI 擅长于查找隐藏在高杂乱背景中的物品。在这个角色中，人工智能比人类好，而且要快得多。另一方面，人工智能可以通过各种手段被全面愚弄。AI出色的'查找'功能缺乏稳健性。未来支持人工智能的战场可能比革命性战场更具进化性。

未来的战场上可能有数百个、可能数千个、中小型固定和移动人工智能支持的监视和侦察系统在所有域运作。同时，可能有相当数量的干扰和欺骗系统协同行动，以制造虚假和故意误导战场的印象。当有成千上万个看似有效的目标时，双方都可能发现很难准确攻击，其中只有一小部分是真实的。

在这样的战场上，力量的平衡可能会被混乱的平衡所取代。人工智能可能提供高速超战争的承诺，但需要时间来确定在战场上交织在一起的友好和敌对力量究竟在哪里。交战可能是突发性的，随着战术画面的发展，在很长一段时间内什么都没发生，然后是短暂的突然交火，然后创造了一个新的局面。

因此，支持人工智能的自主武器系统（AWS）可能不如一些人担心的那么重要。狭义的人工智能技术已经存在技术缺陷，限制了其效用。通过使用旨在愚弄 AWS 式机器的 AI 系统使战场饱和，使这些问题严重恶化，这意味着它们需要不断的人工检查，以确保它们能够正常运行。因此，在效用方面，使用非武装的 AI 支持系统可能会获得更多。它们可以自主运作，在战场上漫游时承担一系列功能，不受武装冲突法律的约束，对致命武力的关注或对与遥远的人类操作者连接的担忧。

这些对人工智能固有的不可靠性的担忧突出表明，为了实际目的，人工智能应该与人类合作。无论战争法和道德问题如何，性能不佳的人工智能系统都将给军事效用带来有限的效果。这样做的好处是，人工智能的优势可以抵消人类认知的弱点，反之亦然。世界国际象棋冠军加里·卡斯帕罗夫（GarryKasparov）观察到在人类-机器团队的国际象棋中：'人类加机器团队甚至主宰了最强的计算机。人类的战略指导加上计算机的战术敏锐性是压倒性的。我们可以专注于战略规划，而不是花这么多时间在计算上。在这些条件下，人类的创造力更加重要。

这一观察表明，观察-判断-决策-行动（OODA）模式可能需要改变。在此模型下，要到事件发生后才能进行观察：模型本质上是向后看的时间。人工智能可能会带来微妙的转变。鉴于适当的数字模型和足够的'查找'数据，人工智能可以预测对手未来可能采取的行动范围，并从中预测友好力量可能采取的行动来应对这些行为。

支持人工智能的决策模型可能是'感知-预测-建议-行动'：人工智能感知环境，以找到对手和友好的力量：预测对手部队可能做什么，并建议友好部队的反应：人类-机器团队的人类部分同意：AI 通过向部署在战场上的各种支持 AI 的系统群发送机器对机器指令。

人工智能似乎是现代的'机器幽灵'，这种扩散意味着人工智能在战争中的影响不能通过评估单个机器来判断，而只能通过大量支持异质人工智能的系统能够同时相互作用来判断。这可能使未来战争的广泛态势和节奏比目前预计的更像今天，即使一些意想不到的情况出现在推理机器在战场上扩散。

本评论中表达的观点是作者的观点，并不代表RUSI或任何其他机构的观点。