北约发布首个人工智能战略

10月21日，北约国防部长峰会通过北约第一个人工智能战略。该战略概述了如何以受保护的、符合伦理道德的方式将人工智能应用于国防与安全；战略根据国际法和北约价值观，制定了负责任地使用人工智能技术的标准；阐述了对手使用人工智能带来的威胁，以及如何与创新界在人工智能方面建立可信合作。战略认为，鉴于新兴技术与国防、安全的紧密联系，人工智能是北约盟国优先考虑的七个技术领域之一，其他技术包括量子技术、数据与计算、自主技术、生物技术与人类增强技术、高超声速技术、太空技术。在这些两用技术中，人工智能是应用最广泛的技术（尤其是当其与大数据、自主技术或生物技术相结合时）。

战略摘要

1、人工智能正在改变全球防御和安全环境。为加强北约的技术优势提供了一个前所未有的机会，但也将使北约面临的威胁升级；人工智能将影响北约联盟为支持“集体防御、危机管理与合作安全”这三项核心任务而开展的全部活动。

2、为了保持北约的技术优势，北约盟国将就跨大西洋防务安全的人工智能事务开展合作，包括在现有计划的基础上开展合作。

3、战略的4个目标：为北约和盟国“以身作则”提供一个基础，鼓励以负责任的方式开发和使用人工智能，以维护盟国的防务与安全；加快人工智能在能力开发和交付中的应用并使之主流化，加强联盟内部的互操作性；保护并监测人工智能技术与创新能力，解决安全政策问题；确定并防范国家和非国家行为者恶意使用人工智能的威胁。

4、未来，北约联盟的目标是以一种可操作的方式整合人工智能，以支持其三个核心任务。考虑到民营、私营部门和学术界在人工智能发展中的主导作用，该战略将得到以下支持：北约、私营部门和学术界间的重要合作；北约技术与政策型人工智能人才队伍的能力；强大、相关、安全的数据基础设施；以及适当的网络防御。

5、根据即将推出的北大西洋防务创新加速器（DIANA）项目，国家人工智能测试中心将支持北约的人工智能目标。北约和盟国将定期进行高级别对话，在战略政治层面让技术公司参与进来，以了解并帮助塑造人工智能领域的技术发展，对人工智能带来的机遇与风险形成共识。

6、北约将继续成为人工智能在国防与安全方面的跨大西洋论坛，利用人工智能的潜力、防范国家和非国家行为者对人工智能的恶意使用。

7、本战略的核心是北约负责任地使用人工智能的原则，这将有助于指导北约根据价值观、规范和国际法进行跨大西洋合作。北约负责任地使用原则（以下简称“原则”）是基于现有的、被广泛接受的道德、法律和政策承诺，北约在历史上一直根据这些原则运行，并将继续这样做。这些原则将不会影响或取代现有的国家和国际义务与承诺。

8、这些原则适用于所有类型的人工智能应用，目的是为北约和盟国提供一致性，以实现互操作性。这些原则将是讨论和采用更详细的人工智能最佳实践的基础，并应被视为盟国在国防与安全背景下使用人工智能的基准。

9、北约负责任地在国防中使用人工智能的原则。盟国和北约承诺，确保开发和考虑部署的人工智能应用在其寿命周期的各个阶段都将符合以下6项原则。

l  A. 合法性。人工智能应用程序的开发和使用将符合国家和国际法律，包括国际人道主义法和人权法。

l  B. 责任与问责。人工智能应用的开发和使用将具有适当的判断力和谨慎性；明确人类责任，以确保问责制。

l  C. 可解释性和可追溯性。人工智能应用将是可理解和透明的。包括在北约或国家层面的核查、评估和验证机制。

l  D. 可靠性。人工智能应用将有明确的、定义清晰的用例。这种能力的安全性、保障性和稳健性，将在这些用例的整个寿命周期内接受测试和保证，包括通过既定的北约或国家认证程序。

l  E. 可管理性。人工智能应用将根据其预期功能进行开发和使用，并将允许：适当的人机互动；检测和避免意外后果的能力；以及在这些系统表现出意外行为时采取措施的能力，如脱离或停用系统。

l  F. 消除偏见。采取积极主动的步骤，在开发和使用人工智能应用程序和数据集时尽量减少任何意外的偏见。

10、确保安全和负责任地使用联合人工智能。

为了确保盟军人工智能的安全和负责任的使用，北约将实施其负责任的使用原则。这些原则将适用于人工智能能力的整个生命周期，盟国和北约将在所有的发展路线上实施这些原则。

11、为了进一步了解这项工作，北约人工智能测试中心将为盟国制定最佳做法，包括协助整体的互操作性和信息安全工作。

12、在安全和负责任地使用人工智能的基础上，北约和盟国将有意识地将减少偏见的努力付诸实践，包括寻求最大限度地减少那些针对个人特征的偏见，如性别、种族等。

13、在部署人工智能能力之前，北约将进行适当的风险和影响评估。

14、尽量减少对盟军人工智能的干扰。一些国家和非国家行为者可能会寻求利用北约人工智能技术中的缺陷或限制，盟国和北约必须努力保护人工智能的使用不受干扰、操纵或破坏，这符合负责任使用原则中的可信原则。

15、盟国和北约应为人工智能制定适当的安全认证要求，如具体的威胁分析框架以及为“压力测试”而定制的安全审查。

16、人工智能可以影响关键的基础设施、能力和民事准备，如创造潜在的网络空间漏洞，这可能被某些国家和非国家行为者利用。

17、一些国家和非国家行为者还可能利用虚假信息，制造公众对人工智能军事用途的不信任。盟国将在“负责任使用原则”的范围内寻求防止和打击任何此类计划，并酌情利用战略沟通。北约将在必要时支持盟国。

18、标准。北约将进一步与相关的国际人工智能标准制定机构合作，以帮助促进人工智能标准方面的军事-民事标准的一致性。

来源：国防科技要闻