杀人机器人与现代战争密切相关 取缔或为时已晚

英国《卫报》网站发表了题为《我们不能取缔杀人机器人——现在为时已晚》的报道。

对于机器人技术和人工智能领域专家发出的取缔“杀人机器人”的呼声，有一种回应是：你们为什么没有早些想到这一点？

在呼吁制定这方面禁令的116名专家当中，包括像特斯拉公司首席执行官埃隆·马斯克这样的重量级人物。他们说：“让我们采取行动的时间不多了。一旦潘多拉盒子被打开，就很难再关上。”但是或许这样的系统早就存在，比如由英国BAE系统公司研发的“雷神”隐身无人战机，或者由三星公司制造并被部署到韩国边境的SGR-A1无人哨戒机枪。自动坦克也在筹划之中，而人类对于会造成伤亡的无人机的控制正在变成只是程度大小的问题。

不过从本质上讲，自从机器人问世，杀人机器人就伴随我们左右。1920年捷克作家卡雷尔·恰佩克创作的科幻剧本《罗素姆的万能机器人》让我们第一次拥有了机器人这个词。他笔下的人形机器人反抗并屠杀人类。从那以后，机器人一直在做这样的事情，从赛博人到终结者。关于机器人的故事很少有好的结局。

甚至很难不在机器人世界末日即将到来的背景下去思考马斯克和与他一道发声的人所提出的这个问题。即便人类最终的命运没有面临威胁，我们也知道其中的某一台机器会出现故障，产生像《机械战警》中Omni公司的机器人警察所制造的那种混乱。

这似乎让一个极为严肃的话题变得过于轻松。这些故事尽管引发了人们深层的恐惧，说到底不过是娱乐。不过，让这一讨论的焦点最终集中在机器人技术有好有坏上，进而暗示只要我们避免坏的技术，就会天下太平，这样的方式未免过于简单。

这个问题要更为复杂。一方面，这涉及更广泛、也越来越紧迫的机器人道德规范的问题；另一方面，这也关乎现代战争的本质。

我们如何让自动技术系统既安全又遵守道德规范？避免机器人给人类造成伤害是阿西莫夫在小说《我，机器人》中所探讨的主题，这本科幻小说短篇集对后世影响巨大，以至于阿西莫夫的“机器人三定律”如今有时几乎与牛顿的三大定律一样重要。具有讽刺意味的是，阿西莫夫的小说主要是关于这些出发点良好的定律如何在一些情况下遭到破坏的。