36学者【评新型战争形态】系列文章第20篇
韩荣斌
佐治亚大学国际事务系教授
日前，中国国家主席习近平在会见来访的西班牙总理时称“当今世界乱象丛生，国际秩序礼崩乐坏。”这个论断对当前国际局势的描述可谓精准：二战结束以来的相对稳固的国际秩序，正在剧烈震荡；尤其是冷战结束后三十年和平与发展的短暂“恒纪元”已经过去，世界渐渐落入“乱纪元”。这种百年未有之大变局有多重征兆与动因。本文欲通过对人工智能技术在战争中的运用这一视角对当前局势做一番探讨。
如果所有关注国际新闻的人们而言，当前一系列的军事冲突引人耳目：俄乌战争已经历时四年有余尚未平息，最近美国通过特别军事行动一举抓捕委内瑞拉总统马杜罗，接着又和以色列一起对伊朗大打出手。这些冲突不仅具有关键的地缘政治影响，且关乎网民口中的“上三常”中的“两常”，它们也体现出了新的战争形态，包括人工智能与无人机的大规模运用。如果说无人机还可以用新武器对战争的影响来类比（类似坦克的出现对步兵战术的冲击、航空母舰对大炮巨舰的替代），人工智能在战争的角色则尤为值得关注。特别是公开报道显示Anthropic公司的Claude人工智能模型在美国对马杜罗的抓捕过程中发挥了重要作用。以色列也在加沙战争中对人工智能的使用涵盖从监视、识别、筛选目标，到精确控制武器实施打击，再到毁伤评估的全过程。可以说，人工智能已经成为现代高科技战争中不可或缺的元素。
美国大模型公司Anthropic IC Photo
人工智能被用于战争或许并不出乎意外，毕竟人类文明和战争之间关系剪不断、理还乱。但是这其中包含的伦理问题特别值得探讨。显然人工智能在战争中的运用已经对人类社会的基础伦理带来了深刻的挑战。例如，如果人工智能参与战争的底线是机器不可自主杀人（这也是阿西莫夫机器人三定律的第一条：机器人不得伤害人类），那么这条底线伦理已经受到严重挑战，至少可以说我们已经快速地向这条底线滑落。虽然貌似目前人工智能军事行动中还是辅助人类决策，但是考虑到决策其实是一个有机过程，人类最终按向发射按钮的手其实也只剩下了象征意义。早在2024年就有报道，以色列通过人工智能选定攻击目标，而人类确认的过程只有短短20秒。这种程度的人类参与还有多大的实际意义？且不说这个仅具象征意义的人类之手也只需人工智能程序的细微改动即可取代，实际上人工智能在某种程度上才是真正具有实际意义的决策者，因为人类的所谓最终决策不仅完全基于人工智能的一系列前置决策，并且人类甚至不清楚大模型决策的具体逻辑和动因。而且，人类参与的象征意义也极为有限，我们不仅很难通过这种程度的人类参与来给参与其中的人类在必要时（例如杀害平民）进行追责，因为人类的角色似乎可有可无；而且即使参与其中的人类确有责任，人工智能也提供了一个甩锅机会。
我们面临的伦理的困境其实在当前Anthropic公司与美国战争部的争端之中也有所体现。在Anthropic公司的大模型被用于美国对委内瑞拉的军事行动被曝光之后，该公司与美国战争部之间表现出了分歧。战争部希望人工智能模型可以用于“所有合法用途，”而Anthropic公司则坚持须有伦理红线，特别是需限制将大模型用于致命自主武器以及大规模监事美国人。目前的结果是Anthropic被美国政府列入“国家安全供应链风险”实体黑名单，而战争部转头与另一人工智能巨头OpenAI签署了合同。这一事件虽然并未完全尘埃落定（目前Anthropic正寻求通过诉讼摆脱黑名单），却具有某种谶纬式的指标意义，Anthropic其公司名称意为“与人类相关的，”似乎象征着人工智能时代仅存的人性底线，美国战争部则代表着人类最具毁灭性的力量，而OpenAI的公司名中仅有人工智能而无人类。这场争议结果是否预示着战争和人工智能最终会达成同盟而置人性于不顾？
美国许多影视剧对未来的反乌托邦式想象中一个相当常见的场景就是人类与人工智能或智能机器人的大战（例如《终结者》系列、《黑客帝国》系列、《我，机器人》等）。目前而言，何时实现真正的AGI尚不确定，所以也许我们还不会很快面临人类与人工智能之间的直接战争。但人工智能已经深刻影响人类战争。也许当我们想象末日场景的时候又可以增加一个：人类世界的终局是人工智能辅助下的战争自杀。毕竟从人工智能筛选目标、人类20秒确定，要人工智能自主筛选、自动杀敌这一步的跨越实际上已经没有技术性的障碍，真正能阻止迈出那一步的似乎只剩下人类心中的道德准绳。风起青萍之末，您对此有信心吗？
Leave a Reply