兰德：美国防部部署AI的3个关键和11条建议

1月26，兰德发布了题为《The Department of Defense's Posture for Artificial Intelligence: Assessment and Recommendations for Improvement》（国防部对人工智能的态度——评估和改进建议）的报告，就美国国会2019年《国防授权法案》中提出的关于“美国国防部是否已准备好利用人工智能及相关技术的潜力，是否需要采取措施以更好地利用人工智能技术”等问题进行了回答。

报告关键结论

（1）美国国防部在发展和使用人工智能的各个方面都面临巨大挑战。

（2）研究人工智能对美国防部和战略决策的影响，需从整体上考虑三个关键要素及其相互作用，分别是：“技术和能力空间、国防部人工智能应用的范围、投资空间和时间范围”。

（3）兰德向美国国防部提出了11条建议，包括美国防部应调整人工智能治理结构以使机构和资源与扩展的人工智能任务保持一致；应以半年或年为单位开展人工智能投资审查；联合人工智能中心（JAIC）应以年或半年为单位组织交流研讨会以展示人工智能计划等。

AI与DoD

1956年，达特茅斯会议上提出了人工智能的概念。同年，DARPA（当时为高级研究计划局（ARPA））就启动了人工智能的研究，旨在将人工智能技术应用于国防领域。1963年，DARPA 就资助麻省理工学院开展人工智能相关研究。随后到20世纪90年代，出现了人工智能发展的2波浪潮。2018年，美国国防部成立了联合人工智能中心（JAIC），旨在将人工智能大规模应用在军事领域，提高美军智能化作战水平，使美军保持和占据军事优势。

兰德将NDAA（官方授权法案）中的人工智能任务提炼为以下三个问题，并尝试解答：

• 与美国国防部相关的AI的状态是怎么样的？

• 美国国防部在目前的AI发展中的态度和立场是什么？

• 哪些内部行动、外部接触以及潜在的立法或监管行动可能会增强 DoD在 AI中的态度和立场？

对于第一个问题，兰德评估了国防部决策者需要了解的人工智能技术。

对于第二个问题，兰德从六个维度评估了美国国防部对人工智能的态度，如表1所示：

关键要素

研究人工智能对国防部和战略决策的影响需要采取整体观点，具体从以下三个关键要素和交互方式进行考虑：技术和能力空间；国防部人工智能应用范围；投资空间和时间范围。

2.1 技术和能力空间

包括算法在内的许多技术都是人工智能技术的基础。近期人工智能技术的发展依赖于有监督学习，尤其是深度学习算法。然而深度学习算法的成功有赖于大规模的数据集和大量用来训练模型的算力。深度学习算法往往局限于特定的应用，而演示的应用程序往往是商业化的。此外，VVT&E对于安全关键型军事应用等 AI 应用仍然极具挑战性。

2.2 DoD人工智能应用范围

国防部人工智能应用的范围由操作（作战）环境、资源、速度、失效的影响4个独立因素确定的。国防部人工智能应用的范围可以分为：

• 企业级AI：包括在环境受控的军队医院的健康记录管理应用，其中分析师和决策者可以访问充足的计算资源，数据可以恢复，失效的影响可以忽略不计。

• 任务支持级AI：由算法战争跨职能小组（也称为Maven项目）等应用程序组成，旨在利用ML帮助人类分析无人机在战区收集的全运动视频数据中的大量图像。

• 作战级人工智能：指将人工智能集成到武器系统中，此类人工智能应用必须适应动态的作战对抗环境、快节奏、有限的计算和通信资源（可能还包括数据资源）、失效后对伤亡和战略目标的影响重大。

2.3 投资空间和时间范围

除了开发或获取各种应用的 AI技术所需的投资外，人工智能的成功还需要三种其他投资：

• 技术和其他赋能设施，比如用来收集和管理数据的基础设施；

• 用于技术检查和制衡的VVT&E基础和实践；

• 基础研究，目的是保持长期的技术优势。

兰德分析表明，国防部的持续投资实现大规模部署的预期目标为：

• 近期——企业级 AI（最多五年）

• 中期——大多数任务支持级别AI应用（5至10年）

• 长期——大多数的作战级 AI 应用（十年以上）

DoD的态度

兰德研究发现，总的来说，美国国防部对人工智能的应用比较积极，但国防部在评估的所有方面都面临显著挑战。

• 在组织结构上，当前的国防部人工智能战略既缺乏评估进度的基线，也缺乏衡量进展的标准。迄今为止，JAIC（联合人工智能中心）尚未获得大规模部署人工智能所需的的权限、资源和可见性。JAIC的影响范围局限在国防部内。

• 在数据层面，数据非常缺乏。即使存在数据（集），也缺乏可追溯性、可理解性、可访问性和互操作性。

• 当前，AI技术的VVT&E状态无法确保 AI 系统的性能和安全性，尤其是那些安全关键型系统。

• 国防部缺乏明确的跟踪和培养人工智能人才的机制。而随着与学术界、产业界和其他领域的竞争日益激励，国防部在人才方面面临的挑战将会日益增加。

• 国防部内人工智能的开发方和最终用户之间的沟通渠道很少。

目前国防部内关于人工智能实践的做法和流程可能会阻碍国防部内的人工智能创新，同时影响国防部在人工智能领域引入外部创新的能力。

建议

兰德对美国国防部提出了11条战略和战术建议，以帮助国防部发展和利用人工智能：

治理结构与路线图

【建议1】国防部应调整其人工智能治理结构，以确保授权和可获得的资源与规模化应用人工智能的使命相一致。

【建议2】JAIC 应制定一个五年战略路线图，路线图中应提出明确的基线和指标。

【建议3】每个中心化的（集中式）AI服务组织都应制定一个五年战略路线图，路线图中应提出明确的基线和指标。

技术研究合作

【建议5】JAIC 应该每年或每两年举办一次技术研讨会，展示国防部范围内的全部人工智能项目。

【建议6】国防部应该与工业界和学术界密切合作，推进人工智能系统VVT&E的科学和实践。其中，JAIC应该在协调内部和外部合作伙伴，与国防部负责研究和工程的副部长、负责采购和维护的副部长、作战测试与评估等方面起主导作用。

投资与预算

【建议4】JAIC应该与国防部负责研究和工程的副部长、负责采购和维护的副部长、参谋长联席会议主席、人工智能服务代表合作对国防部范围内对人工智能投资进行年度或半年度的投资审查。

【建议7】所有资助的人工智能项目都应包括人工智能VVT&E 的预算。

人才机制

【建议8】国防部范围内的所有机构都应创建或加强AI 研究人员、技术开发人员和操作人员之间联系的机制。

【建议11】国防部应通过渗透和适当的开放程度作为增强国防部获得人工智能人才的一种手段。

数据与创新

【建议9】国防部应认识到数据是非常重要的资源，继续采用收集和固化数据的做法，并在解决共享后以及分析和使用期间保护数据的问题后加强数据共享。

【建议10】国防部应该加强与外部的接触以激励创新，首席数据官应该向AI社区提供一些国防部的数据集。