马斯克、哈萨比斯等2000多人签署宣言：决不允许杀人机器人出现

与人类的命运，再一次因为自主武器而被推上了舆论风口。

周三，来自数百家公司的2000多名科学家，其中许多是机器人和人工智能领域的著名的研究人员和工程师，联名签署宣言，誓言绝不将他们的技能用于开发自主杀人机器。

这场宣誓行动由总部位于波士顿的非盈利组织未来生命研究所（Future of Life InsTItu）发起，来自36个国家的多达160个人工智能相关的公司、覆盖90个国家的2400名个人签署了宣言，他们承诺：

在世界上的任何一个国家，自主武器都对公民构成了“明显而现实的危险”，他们“绝不参与自主武器的开发”。

签署者包括谷歌的顶级人工智能研究团队Deepnd；欧洲人工智能协会；ClearPath Robocs/OTTO Motors；瑞典人工智能协会XPRIZE基金会；以及伦敦大学学院。

签署之一承诺的著名人士还包括顶尖的人工智能研究人员Demis Hassabis、St Russell、Yoshua Bengio、Anca Dragan、Toby Walsh以及和SpaceX的创始人伊隆·马斯克。

马斯克、哈萨比斯等2000多人签署宣言：决不允许杀人机器人出现！

“人工智能（AI）将在军事系统中扮演越来越重要的角色，公民、政策制定者和领导人都迫切需要区分AI可接受的用途和不可接受用途。”

昨天的瑞典斯德哥尔摩，2000多名AI学者共同签署《致命性自主武器宣言》成为会议国际人工智能联合会议（IJCAI）上的一项重要议题，这也是学界史上最大规模针对“自主武器”的联合签名宣言。

组织这次行动的生命未来研究所的联合创始人、MIT教授迈克思·泰格马克（Max Tegmark）7月18日在会上宣布了这项宣言。

泰格马克教授

泰格马克说：“我很高兴看到人工智能的领军人物从对话转向行动，实施一项政治家们迄今未能实施的政策。人工智能有巨大的帮助世界的潜力——如果我们不能容忍其滥用，并致力于防止其滥用。自主杀人的AI武器就像生化武器一样令人厌恶和不安，我们应该以对待生化武器的方式来处理自主武器。

悉尼新南威尔士大学人工智能科学教授Walsh说：“我们不能把谁生和谁死的决定权交给机器。”因为致命性自主武器系统（lethal autonomous weapon systems），简称“LAWS”，“不具备这样做的道德”。

在IJCAI会议上，包括马斯克、DeepMind三位创始人都签署了《致命性自主武器宣言》，宣誓不参与致命性自主武器系统（LAWS）的开发、研制工作。

而就在一年前，116名全球人工智能和机器人领域的专家（包括马斯克和谷歌AI专家Mustafa Suleyman）发表联名公开信，呼吁联合国采取行动禁止“自主杀人机器”，称其为“恐怖武器”。“留给我们做准备的时间不多了，”专家们警告说：“一旦这个潘多拉的盒子被打开，就很难再次关上。”

美国政府在全球范围内使用升级的军用后，工程师和科学家们警告说，自主机器很容易受到黑客的攻击，它们可能被劫持，进而攻击无辜的人群；并且，它们不可避免地很容易就会被恶意攻击者获得，或者恶意攻击者能够自己制造这类武器。

为了演示在自主杀人无人机的威胁下的生活，生命未来研究所协助制作了一个名为“Slaughterbots”（《屠杀机器人》）的影片，视频中的一个片段描绘了数千名大学生被杀人机器人屠杀的景象。这些学生在社交媒体上分享了一段揭露腐败的视频后，被不知名的“黑影人”盯上，机器通过面部识别系统识别学生的身份，进而实施屠杀。

该视频是由“制止杀人机器人运动”（Campaign to Stop Killer Robots）组织制作的，该组织是一个致力于禁止自主武器的国际联盟，生命未来研究所是其中一员。

以下是《致命性自主武器宣言》全文：

人工智能（AI）有望在军事系统中发挥越来越大的作用。 公民、政策制定者和领导者有必要区分人工智能可接受和不可接受的适用范围。

从这个角度来看，我们签署者达成一致意见：永远不应将人类生命的决定权委托给机器。“道德”是这个立场的一部分，我们不应该让机器为那些应当受处罚的人做出生死决定。另一个强有力的观点是：致命的自主武器，在没有人为干预的情况下选择和参与目标，将危及每个国家和个人的稳定。

众多人工智能研究人员一致认为，若是通过致命的自主武器消除人类生命的风险或困难，它们可能成为一种暴力和压迫的有力（尤其是在监视和数据系统相关联时）。此外，致命的自主武器具有与核武器，化学武器和生物武器截然不同的特点，并且单一团体的单方面行动很容易因国际社会缺乏技术工具和全球治理体系而引发军备竞赛。防止发生这种军备竞赛应成为国家和全球安全的优先考虑事项。

我们联名签署人，呼吁各国政府和政府领导人共建一个拥有强大的国际规范、法规和反对致命自主武器法律的未来。 这些法律目前是没有的，我们选择保持高标准：我们既不参与也不支持致命自主武器的开发，制造，贸易往来或使用。 我们要求技术公司和组织以及领导者，政策制定者和其他个人加入我们的承诺。

《致命性自主武器宣言》的签署者将进一步敦促将于8月份就自主武器问题举行会议的联合国在各国之间达成一致承诺，促使各国禁止自主武器。

未来生命研究所受到霍金、马斯克支持，AI WORLD关注机器智能与人类未来

发起这次宣言行动的未来生命研究所“身世显赫”。

2015年，研究所刚创立仅1年就收到了来自马斯克1千万美元的捐赠，并且得到了很多社会精英和著名组织的支持，包括伟大的物理学家霍金以及、谷歌、Facebook、微软、IBM等企业，以及研发了AlphaGo的Deepmind公司。

目前，该机构已经募集资金超过1亿美元，汇聚了8000多位全世界顶级的人工智能专家，成功地让 “人工智能安全性”研究迅速在全世界成为了一场轰轰烈烈的运动。

在未来生命研究所关注的同时，AI带来的改变正在前所有未地改变人类生活：Uber车祸致命事件告诉人们技术安全的重要性；谷歌千人抗议与军方合作的项目让人们思考AI应用的边界；美国制裁中兴事件让国人意识到“缺芯”的现实和掌握自主技术的迫切，国与国之间在AI领域的竞争比任何时候都要激烈。

凡此种种，都将对世界和中国的AI产业造成巨大而深远的影响，在这个过程中间，我们的自研核心技术、基础科研和理论将如何支撑产业健康发展？