37学者【评新型战争形态】系列文章第31篇
江天骄
复旦大学发展研究院副教授
2026年以来，美国对委内瑞拉和伊朗的两场军事行动搞得人心惶惶。尤其是“绑架”或“斩首”他国领导人的做法令人胆寒，仿佛一夜回到历史上充满战乱和血腥的年代。尽管战后国际秩序已逾80个年头，但《联合国宪章》明确规定的普遍禁止使用武力和主权平等原则屡屡得不到遵守。如今，“斩首”领导人的行为更是开启了潘多拉魔盒，不断瓦解国家间交往最基本的信用和道义。当务之急是大国之间首先围绕互不“斩首”达成政治承诺，为所谓的竞争划定红线。在联合国框架下，国际社会应当重新审视禁止针对他国领导人实施“斩首”、“暗杀”或“恐怖主义”的法律规则，并建立专门的保护和惩罚机制。
而相关“斩首”行动的背后，也都有人工智能军事应用的影子。随着人工智能技术的不断迭代，战场愈发透明，战争节奏也越来越快。尽管国际社会普遍要求确保人在回路，即人类指挥官对战争决策权的控制。但客观情况是，由于信息过载和战争节奏过快，人类指挥官很可能根本无法做出及时有效的判断，也压根不知道海量数据中的哪一小部分会出现问题。算法正在与人类争夺对未来新型战争的主导权。
| 图片源于网络。
美军对伊朗军事行动中误炸学校暴露出的严重问题则给所有正在大力发展军用人工智能的国家敲响了警钟。智能体的内生安全风险以及真实世界应用中的数据、流程和人员耦合风险很可能导致意料之外的连锁反应。如果无法明确究竟哪些环节需要由人来审核，那么确保人在回路就会沦为空谈。
在人工智能军事应用及其治理方面，中国去年11月发布了新版军控白皮书——《新时代的中国军控、裁军与防扩散》，是时隔20年后再次以白皮书形式全面阐述军控政策。其中更是首次以专章形式阐述了中国在网络、外空、人工智能等新兴领域的军控政策，凸显了中国应对新兴领域国际安全治理的政策主张。2021年，中国向联合国《特定常规武器公约》审议大会提交了《中国关于规范人工智能军事应用的立场文件》，坚持统筹发展与安全，确保人工智能发展的安全、可靠、可控。
随着未来新型战争条件下人工智能的失控风险进一步上升，各国应当积极采取单边措施，严格审查相关技术，确保有意义的人类控制，并在条件成熟的情况下开展双边或多边合作，彼此交流经验做法，建立危机管理机制。在即将到来的中美元首会晤中，双方如能就人工智能危机管控开启对话，将为国际社会树立良好的典范。
Leave a Reply