文晓宇 陈志阳 叶嘉毅 张锐
国防科技大学军事基础教育学院 湖南 长沙 410073
摘要：随着人工智能的高速发展及在军事领域的广泛应用，自主武器系统日益显现出法律伦理、人道主义和安全风险，对现有军控体系和国际人道法均构成了潜在挑战，限制和约束自主武器系统成为全球安全治理领域的新兴议题。自主技术是自主武器武区别于其他武器的关键特征，本文系统梳理了自主的技术基础和当前武器系统自主化发展的现状，分析了武器系统自主技术发展的驱动力和障碍因素，旨在为我国参加国际自主武器军控谈判提出可行性建议，在维护自身战略利益的同时，进一步巩固负责任的大国形象。
关键词：自主武器；自主技术；军控谈判
引言
近年来，人工智能在军事领域的广泛应用极大促进了自主武器的发展，特别是致命性自主武器系统（LAWS,Lethal Autonomous Weapons Systems）对现有的军控体系和国际人道法均构成了潜在挑战，并有可能引发新一轮的军备竞赛。限制和约束自主武器系统成为全球安全治理领域的新兴议题，国际社会正致力于推动联合国等多种机构开展自主武器系统军控谈判。自主武器系统是指具有自主决策性能的武器平台，它可以在不经过人工干预的情况下，独立搜索、识别目标并自主攻击。美国将自主武器系统定义为“一种武器，一旦被激活，就可以在不被人类操作员进一步干预的情况下选择攻击目标”①。“自主性”是该类武器区别于其他武器的本质属性②，自主功能和自主技术是该类武器的关键特征，是国际自主武器军控谈判的核心问题，提出相关谈判和讨 论建议，对于提升我国在自主武器系统军控谈判中的议程设置力、话语权、主动权和在军控政策上抢占先机具有重要意义，为我国进一步巩固在相关领域的技术优势、维护国家利益、营造有利的大国形象奠定良好基础。
一、自主化的技术基础
（一）自主的定义
“自主”可以定义为机器在没有人工输入条件下，通过计算机程序与环境进行交互从而执行单一任务或多任务的能力。自主系统通常指一旦被激活，就可以执行任务或功能的系统。但自主是一个相对的概念：在相关的工程学、机器人或计算机学科中，专家对于系统或系统功能的自主有不同的理解。评估自主水平的一种方法是人机指挥和控制的关系，即机器执行任务时人的参与度。通过这种方法，自主可以分为三类：半自主、人类监督下的自主和完全自主。另一种方法是评估系统决策能力的负责程度，即系统控制自身行为（自我管理）和处理不确定环境的能力，据此系统通常可以分为三类：自动系统、自动化系统和自主系统。
（二）工作机制
在基础层面，自主通过相同的技术架构实现：传感器为系统收集数据；计算机硬件和软件把收集的数据转化为有目的的行动计划；驱动和末端执行器使系统能在运行环境中行动。武器系统自主能力的提高依赖于多个领域的技术进步，传感器技术决定了系统在其运行环境中收集数据的准确性，计算机处理技术决定了系统软件部分的“思考”速度和其能高效处理的数据量，驱动器和末端执行器的设计会影响系统的耐用性和成本。对自主性最关键的技术是软件元素，真正决定系统自主性能的正是传感软件和控制软件的复杂程度。因此，自主性的进步从根本上依赖于人类程序员的聪明才智，，将复杂的问题分解成计算机能够理解的数学规则和指令。
（三）实现自主化的难度
依照定义实现自主上并不困难，主要取决于用数学模型对预期任务类型进行模拟的程度。任务规范越抽象或定义越模糊就越难以将其转化为数学问题和解决方案，特别是需要进行定性判断的任务，执行时通常存在问题。同时，需要与人类进行复杂交互（对抗或协作）的任务设计起来也很难， 因为人类的行为常常不可预测，也很难模型化。作战环境的可预测程度也非常重要，可预测性越低就越难预先建模，系统需要的感知和决策能力也就越高。
当任务和操作环境过于复杂，人类无法进行完全建模时，就会更多的依赖于“机器学习”。机器学习可以提高依赖于模式识别机制的子系统的能力，例如ATR（自动目标识别）软件、基于视觉的导航系统、恶意软件检测软件和抗干扰系统。但机器学习也面临许多现实挑战，尤其是在可预测性方面。在使用深度学习的系统中，算法的运行就像黑匣子，人类很难理解系统已经学到了什么，以及在不同训练阶段数据输入时的反应。这种不可预测性在武器系统中可能会产生严重后果，目前武器系统中的机器学习目前仅限于实验研究。
二、武器系统自主化的发展现状
通过对现有武器系统进行的广泛研究表明，自主已经在武器系统的各种任务中得到应用。在武力使用中，自主性已经应用于目标瞄准的各个过程：从目标识别、跟踪、优先级排序和选择到特定情况下的目标攻击。新一代自主武器系统包括健康管理（通常是电源管理和故障检测）、互操作性（即系统可以与其他自主系统协同）或战场情报、爆炸物处理等的自主能力。
（一）目前自主武器系统主要为防御型
自上世纪70 年代以来，用于自动探测瞄准的ATR系统就已存在。ATR被用于制导弹药、巡飞武器、防空系统和有人操控的武器系统中（如载人系统或遥控无人系统），通常帮助操作人员定位目标，并攻击超出人类视觉范围或运动太快人类无法跟踪的敌方目标。目前能够自主获取并攻击目标的系统也主要是为防御目的而设计，如保护船舶、地面设施或车辆免受袭击的防御系统，由人类对系统进行监督，只有在攻击时间大短、人类无法作出反应的情况下系统才自动开火，全世界至少有89个国家已经部署或正在开发这种系统。
（二）进攻型自主武器系统的目标限制
巡飞武器是唯一的“进攻性”武器系统类型，能够自主获取并攻击目标。巡飞的持续时间、部署的地理区域，以及他们可以攻击的目标种类都是由人类预先确定的。目前已知能够完全自主控制、并投入作战使用的巡飞武器为“哈比”、“哈罗普”、“哈比NG”和轨道飞行器IK“Kingfisher"(均由以色列制造）。以色列 “哈比”（Harpy）无人机则属于典型的“即发即弃”（fire and forget）的装备，地面平台将无人机发射后便不再实施操控，由无人机自主探测并摧毁目标，但其目标限制为敌方雷达③。
（三）已部署武器系统的自主性仍处于基础技术水平
从技术角度来看，大多数系统的自主水平仍然很基础的。在无人机和和海上无人系统中，自主导航通常依赖于航路点追踪和避障技术。在地面无人系统中，自主导航只有在低复杂度的环境中才能实现，这些环境需要能够预先映射，如边界和周界。目前用于作战的系统仅有非常基本的感知和决策能力，它们只能探测和攻击与预定标准匹配的大型实体目标。只有少数几个系统能够在限定参数下自动地检测、优先选择并攻击目标。一旦运行环境变化较大或天气气状况恶化，其自动化目标识别系统的性能也会迅速下降。
三、武器系统自主技术发展的驱动力和障碍
（一）自主技术提供了巨大的军事效益
从军事的角度来看自主化的效益巨大。致命性自主武器系统可为国家削减战斗人员，降低战争消耗，实现武器装备的代际超越，这为对内承受资源人口压力、对外面临和平安全威胁的国家提供了新的战略思路④。
自主技术的发展使军事任务任务的执行更快更可靠，也有可能使人类不再执行或监督枯燥、肮脏、危险的任务中，从而有助于减少许多国家严重消耗军事预算的人力负担。此外，自主性还有望提供新的作战能力，它可以进入远程控制技术无法触及的环境，推动集群作战，提高作战行动的效益。
（二）“完全自主”不一定是目标
各国政府及军方有一直致力于加速自主技术应用于武器系统，但并不一定意味着将会向全面自主的线性发展，即把人为控制从无人系统中移除。美国国防部在自主问题发布的明确战略和政策中指出，它目前的发展目标不是实现“完全自主”，它主张自主不是取代人的决策权，而是充分提供决策补充；而在涉及武力使用方面，它主张人类应该对攻击决策施加控制。美国国防部于2012年11月签署“武器系统自主化”指令 （3000.09指令），要求在设计自动和半自动武器系统时，允许指挥官和操作人员对所用武力进行适度判断，并要求参战人员遵守战争法、相关条约、武器系统安全规则和交战原则等⑤。目前，美国国防部维持相关指令不变，并且，鉴于无人系统的优势，倾向于通过技术升级继续发展高自主性能的无人系统。
（三）自主能力发展面临许多技术挑战
要实现自主武器系统应有的能力，技术上还存在一定障碍。未来与自主能力发展密切相关的技术包括基于时空基准和大数据的高清地理信息技术、智能感知技术、自组织网络通信和导航定位技术、人机融合与自主决策技术、基于网络信息的平台自主、协同技术等。这些技术问题的发展不平衡或瓶颈限制了武器系统自主性的进一步发展。例如，要实现自主武器系统的军事目标需要克服计算机视觉和机器学习方面的障碍，以使其能够满足在复杂、动态和敌对的环境中安全可靠地作战的军事需求；要确保人类对武器系统实施有效的控制，需要进一步研究人与机器人机交互技术；要实现未来武器系统的自主化也高度依赖于新验证和确认程序的发展，现有的方法只能用于低水平自主技术应用的认证。
（四）阻碍自主技术发展的制度、法律、规范和经济因素
军用技术的发展不是在真空进行的，许多制度、法律、规范和经济因素使各国的武器系统自主技术发展成为的争议话题。武器系统的自主性应用仍然是军事领域的一个敏感问题，自主武器在确保军事人员的安全性和可靠性方面的问题存在着关键的信任挑战。在某些国家，自主化发展也对一些军事组织构成了精神上的冲击，不同军种的一些军人可能会见某些自主能力的发展视为对他们职业生计的直接威胁，或者可能会人为这样的自主化能力不足以改变他们熟悉的作战模式。
自主武器系统也受到国际法（有时还有国家法律）的约束，目前有27个国家支持完全自主武器的禁令。国际法对发展和使用自主瞄准能力加以限制，并要求在大多数情况下军事指挥机构都要对武器系统的行为进行某种形式的人类控制或监督。此外，许多国际组织、民间组织和社会中由越来越多的压力反对使用自主性瞄准目标，这导致发展自主武器系统成为法律、军事、舆论的敏感问题。
最后，还需要认识到某些经济因素的影响。各国政府和军事组织的财力是有限的，考虑到自主武器系统的高昂成本，根据武器系统的类型和各国的发展水平，武器系统自主性的发展速度必然不同。然而，鉴于可承受性和可达性的优势，微型和小型自主武器平台势必将在短期内推动自主技术在武器系统中的应用。
四、对自主武器系统国际军控讨论的建议
（一）应重点关注“武器系统的自主性”发展
讨论对象应该从一般范畴上的自主性武器或致命性自主武器系统调整为武器系统的自主性发展。自主性不是自主武器系统的一般属性，而是关键属性。在不同的武器系统中的自主性可提供的功能是不同的，而在整个任务执行期间，自主武器系统无论是人机指挥控制关系，还是决策过程的复杂程度，或是自主性的参数等各种自主能力都有很大不同。目前联合国《特定常规武器公约》（CCW）框架下的政府专家组（GGE）是自主武器系统军控讨论、谈判的主要平台，但各国和专家对于自主武器及致命性自主武器的概念仍无法达成共识，对一个武器系统自动化到何种程度可以认定为自主化
一直处于争论之中。实际上讨论一个武器系统的自主化水平如何，无论是从法律、伦理角度还是作战的角度看，这都必须要依据其在特定功能或具体任务的自主应用情况来决定。因此，未来的CCW讨论可以从概念上进行重构，并且从围绕平台或系统为中心的自主转向围绕功能的自主，将重点放在“武器系统的自主”这个概念上，而不是自主武器及致命性自主武器的概念，这样可以建立更有共识性和建设性的讨论基础。
（二）应重点关注自主是如何改变人类的控制
到目前为止，关于自主杀伤性武器系统的辩论一直以平台为中心，并且非常关注“完全自主”的发展。重点关注“完全自主”系统是有问题的，因为它没有反映出各国政府和军事组织对武器系统自主化的构想，也无法解决短期内武器系统自主化发展带来的一系列挑战。自主化必然会将改变人类与武器系统的互动方式和战场决策的方式，但人类不会从战场中消失。武器系统永远不会是“完全”自主的，因为它们的行动自由在一定程度上总是由人类控制，它们的程序设计永远是人类计划和意图的产物。因此，在探索自主化的发展时，CCW框架下的讨论和谈判应该解决的基本问题是人类控制问题，即自主性的发展如何改变人类决策和战争行动的性质、地点和时机？在武器系统性能越来越复杂和越来越自主的情况下，人类应该对所使用的武器系统保持什么样的控制，以及如何确保这种控制是足够的或有意义的？
（三）应将关注范围扩展到自主协同作战和情报处理
目前，CCW的代表在逐渐形成共识，无论是从法律、伦理或安全的角度来看，自主化议题主要起源于目标瞄准特别是超越瞄准的自主行为，然而也必须对其他功能领域的自主化进行审查、讨论。首先，一些“非关键”的自主功能可以成为武器系统攻击效能的倍增器（例如导航、集群和自我修复能力）。其次，它们引发了某种对安全和人类控制方面的一些问题，如当武器系统是一个大规模自主无人系统集群时，有哪些参数处于人类控制之下？第三，导航等一些功能领域的技术进步，也也可能有助于提高瞄准自主性，例如，视觉导航图像处理软件的发展有助于改进目标识别软件。为了预测在瞄准领域的自主化发展，跟踪武器系统各个方面的发展非常必要。
（四）应关注控制非国家行为者将民用技术武器化的途径
虽然短期内国际社会和各国针对对于自主技术和武器系统的发展和生产进行管制的范围不会太大，民用部门对于自主机器人系统的发展和创新也在高速发展，但CCW应该考虑到非国家方利用民用技术研制武器的风险。发展自主系统的门槛较低，大多数可用于开发自主技术的设备、器材、资源在市场上广泛存在，自主化发展主要受人类程序员独创性的制约，恐怖分子或犯罪组织发展低成本自主武器系统的风险是存在的。2018年新美国安全中心智库发布的《人工智能与国际安全》报告指出自主系统和机器人在某些地区会助长政治和社会混乱，并危害公共安全。因此，对国际社会中民用自主化技术的扩散和恶意使用的控制和限制，也将是未来自主武器国际军控讨论、谈判的有益补充。这些控制和限制措施可包括出口管制机制、自主技术的监控运行机制、自主系统硬件或软件的限制措施等。
参考文献：
［1］Vincent Boulanin，Maaike Verbruggen. Mapping The Development of Autonomy in Weapons Systems [R]，2017:19-20.
［2］董青岭.新战争伦理：规范和约束致命性自主武器系统[J].国际观察，2014（4）：51-66.
［3］刘杨钺.全球安全治理视域下的自主武器军备控制[J].国际安全研究，2018（2）：61.
［4］徐能武，葛鸿昌.致命性自主武器系统及军控思考[J].现代国际关系，2018（7）：61.
［5］杜鹏飞，郭文睿.关于致命性自主武器系统的争论[J].中国军事科学，2019（5）：97.