微软联合创始人比尔盖茨的爱好之一就是读书，从2012年开始，盖茨每年会在夏季和圣诞假期前，向公众推荐值得读的图书，内容从科幻小说到人类历史、从企业管理到个人传记，其中总会有让你感兴趣的内容。2018年底，盖茨又为公众推荐了五本书，本期为大家介绍的是自主武器这个话题。

Army of None

《无人军团》（中文名暂译）

保罗·沙雷

保罗·沙雷以前是游骑兵，曾在伊拉克和阿富汗执行过四次作战任务。后来，他在美国国防部从事政策方面的工作，领导了负责起草政府自主武器政策的工作组。他现在是新美国安全中心（位于华盛顿的一个智库）的政策专家。他利用其经验和洞察力，用平实的语言对自主武器给未来战争的影响进行了鞭辟入里的剖析，全面描绘了未来自主武器时代的模样。他巧妙地将未来武器系统、人工智能和政策要求结合在一起，给所有对未来军事技术感兴趣的人们一本必读书。

自主武器（ Autonomous Weapon）是指能够在无人干预的情况下独立搜索、识别并攻击目标的一种新式武器。目前某些防御武器所具有的能够拦截来袭导弹、火箭弹、炮弹或邻近飞机的自主模式均属于自主武器的雏形。这个主题也成了好莱坞电影的常见剧情，诸如《终结者》和《黑客帝国》。虽然其运用很可能减少平民和部队的伤亡，但是如果我们不够谨慎，它也会带来出乎意料的后果。

沙雷在开头就清楚地表明，他并不反对有限制的自主武器的应用。自主武器可以比人类操作员作出更快的反应。在人类无法生存的环境中（例如高重力下的飞行）或通信中断的情况下，自主武器会带来很大的好处。此外，自主武器可能有助于挽救平民的生命。沙雷引用了机器人专家的话，“自主武器……它们不会寻求报复。他们不会生气或者害怕。他们会把情绪排除在外。他们可以在必要时杀人，然后立刻停手。”

尽管有这样和那样的优势，沙雷并不希望军方将判断权转交给计算机。在情势复杂的战场上，人类的判断对于防止不必要的杀戮至关重要。

沙雷在结尾探究了在国际上完全禁止自主武器的可能性。他的结论是，这种绝对禁令不太可能成功。然而，他希望各国共同禁止自主武器的一些特定用途，例如针对个人的自主武器。他还相信，我们可以更新国际战争法，加入致命武器中人工参与的一般性原则。

正如沙雷所说，我们必须防止“被机器的魅力所诱——它们的速度、它们看上去的完美、它们冷酷的精准。” 我们不应该让军事规划者或编写软件的人来决定将底线划在哪里。我们需要同全世界的专家和普通公民一道，共同参与这一重要议题的讨论。

比尔·盖茨

大多数人都不会在假期去想自主武器这个话题，但你很难放下这样一本书，它从发人深省的视角看待人工智能在战争中的应用。

文章来源｜中国公益研究院

图片来源｜中国公益研究院

网站编辑｜瞿艳梅