微软联合创始人比尔盖茨的爱好之一就是读书,从2012年开始,盖茨每年会在夏季和圣诞假期前,向公众推荐值得读的图书,内容从科幻小说到人类历史、从企业管理到个人传记,其中总会有让你感兴趣的内容。2018年底,盖茨又为公众推荐了五本书,本期为大家介绍的是自主武器这个话题。

 

Army of None

《无人军团》(中文名暂译)

保罗·沙雷

保罗·沙雷以前是游骑兵,曾在伊拉克和阿富汗执行过四次作战任务。后来,他在美国国防部从事政策方面的工作,领导了负责起草政府自主武器政策的工作组。他现在是新美国安全中心(位于华盛顿的一个智库)的政策专家。他利用其经验和洞察力,用平实的语言对自主武器给未来战争的影响进行了鞭辟入里的剖析,全面描绘了未来自主武器时代的模样。他巧妙地将未来武器系统、人工智能和政策要求结合在一起,给所有对未来军事技术感兴趣的人们一本必读书。

自主武器( Autonomous Weapon)是指能够在无人干预的情况下独立搜索、识别并攻击目标的一种新式武器。目前某些防御武器所具有的能够拦截来袭导弹、火箭弹、炮弹或邻近飞机的自主模式均属于自主武器的雏形。这个主题也成了好莱坞电影的常见剧情,诸如《终结者》和《黑客帝国》。虽然其运用很可能减少平民和部队的伤亡,但是如果我们不够谨慎,它也会带来出乎意料的后果。

沙雷在开头就清楚地表明,他并不反对有限制的自主武器的应用。自主武器可以比人类操作员作出更快的反应。在人类无法生存的环境中(例如高重力下的飞行)或通信中断的情况下,自主武器会带来很大的好处。此外,自主武器可能有助于挽救平民的生命。沙雷引用了机器人专家的话,“自主武器……它们不会寻求报复。他们不会生气或者害怕。他们会把情绪排除在外。他们可以在必要时杀人,然后立刻停手。”

尽管有这样和那样的优势,沙雷并不希望军方将判断权转交给计算机。在情势复杂的战场上,人类的判断对于防止不必要的杀戮至关重要。

沙雷在结尾探究了在国际上完全禁止自主武器的可能性。他的结论是,这种绝对禁令不太可能成功。然而,他希望各国共同禁止自主武器的一些特定用途,例如针对个人的自主武器。他还相信,我们可以更新国际战争法,加入致命武器中人工参与的一般性原则。

正如沙雷所说,我们必须防止“被机器的魅力所诱——它们的速度、它们看上去的完美、它们冷酷的精准。” 我们不应该让军事规划者或编写软件的人来决定将底线划在哪里。我们需要同全世界的专家和普通公民一道,共同参与这一重要议题的讨论。

比尔·盖茨

大多数人都不会在假期去想自主武器这个话题,但你很难放下这样一本书,它从发人深省的视角看待人工智能在战争中的应用。

 

文章来源|中国公益研究院

图片来源|中国公益研究院

网站编辑|瞿艳梅