Facebook否认AI失控 忘记设置英文语法了

发布者:平凡梦想最新更新时间:2017-08-03 来源: 21IC中国电子网关键字:Facebook  AI 手机看文章 扫描二维码
随时随地手机看文章

最近引起轰动的AI失控事件可以追溯到上个月Facebook传出关闭智能对话机器人项目的消息。研究员对两个聊天机器人进行对话策略迭代升级,结果发现它们竟自行发展出了人类无法理解的独特语言,科研人员不得不对其进行人工干预。下面就随嵌入式小编一起来了解一下相关内容吧。

Facebook近日公开回应关闭AI失控语言事件,认为一些媒体的报道有失事实,造成不良影响。Facebook并没有关闭机器人聊天系统,而是在使它们变得更加聪明可控。

一篇论文引起的风波

事件起源于Facebook上个月发表的一篇论文。论文中阐述了一个Facebook例行的科学研究项目,展示了两个人工智能机器人如何在看过人类的谈判后,开始互相之间展开对话交流,并通过试错逐渐提升谈判的能力。

具体而言,Facebook人工智能研究院的科学家利用神经网络结构开发了一个人工智能系统。这个结构叫做“生成式对抗网络”(GenerativeAdversarialNetworks,GAN)。所谓“生成式对抗网络”,就好比人类的对抗游戏,你的账户能在不断的对抗中提升技能,玩得越多,水平就会越高。

Facebook的研究人员希望训练这样一个聊天机器人,让它带着“目的”和人类对话。这个目的也很简单:一共有两本书、一顶帽子和三个篮球,三样东西分别设定了不同的权重,为的是让机器人明白它到底有哪些需求,然后去和人谈判。

Facebook的研究员对两个机器人聊天能聊成什么样产生了兴趣。在研究过程中,系统中的两个聊天机器人Alice和Bob产生了让人看不懂的对话。这段对话炸一看像是一堆无法解读的乱码,研究人员后来发现,原来是在为系统设置激励条件时,虽然告诉了它们“请用英文”,但忘了告诉它们:“请用英文语法”。

这原本是一个非常正常的纯学术研究。Facebook人工智能实验室(FAIR)主任YannLeCun此前接受第一财经记者专访时透露,Facebook每年大约会提交近百篇这样的论文,并公开实验结果。但这项研究却因为公布了人类所无法理解的语言而受到媒体的大肆炒作。甚至有人担心“失控”的语言将威胁到人类,必须“关闭”。

北京的一家科技公司国承万通CEO郭成博士对第一财经记者表示:“Facebook不太高明的工程师写了个不太高明的算法,里面忘记设置要用英语语法交流,结果两台机器自己不管语法,搞了点人仔细看也能看懂的语言出来。就像我们小时候玩的红白机boss会做一些诡异的攻击动作一样。”他补充道,人工智能可能还很傻,千万别高估了它。

Facebook研究人员对此表示:“人工智能机器人确实没有使用标准正确的英语语法进行对话,但这并不是重点。这项研究原本是为了使得机器人之间能够更加有效地进行谈判,我们的目的达到了,完成了任务。”

为此,Facebook重新设定了正确的激励机制,修正了机器人的行为,让机器人说“人话”。这段表态中值得注意有两点,其一,机器人并没有发明自己的语言,只是创造了新的表达方式,其二,Facebook修正机器人行为,并不代表“关掉”这个系统,原因也不是因为害怕系统失控,而是为了更加有效地进行新的实验。

上海威盛电子语音交互部门技术总监张国峰对第一财经记者表示:“只是一项普通的研究实验,最终的目的也不是让两个机器人聊天,而是通过机器人和机器人的聊天,来提高机器人和人聊天的技巧。根本还是为了实现人机之间的交互。”

至于Facebook为什么要允许两个机器人之间进行交流,张国峰表示,因为机器人的表达方式有限,因此机器人与机器人的对话相对容易做,而目前的人工智能技术尚不支持机器人的逻辑推理能力。

张国峰向第一财经记者说道:“给机器设定策略和另外一个机器谈判,这确实看上去很智能,但这还是在人设定的逻辑框架下,目前的人工智能尚不具备逻辑推理的能力。

他进一步解释道,Facebook“关闭”的这个项目就是试图在开放领域通过互相对话来学习对话策略以及表达方式。“但这并不是说发明了新的语言,而是它们的语言完全不收敛,这个项目的方法错了,没有继续的必要。没有内在的推理和记忆能力,通过统计方法学习是一条死路。”

通过机器之间的互相博弈来学习,AlphaGo此前已经加入了围棋推理和记忆能力,所以自己和自己下棋能够提高棋艺,但是这种推理还是由人类加入的推理,仍然无法在开放领域实现。所谓开放领域,就是指没有限制的对话。相比较于机器之间的对话,机器与人的对话更难,就是因为人的语言是毫无限制的。

人工智能威胁论再现

虽然人工智能发展迅速,但是目前机器的智慧水平还远不及人类。所以尽管人工智能威胁论几乎每十年就会被抛出一次,但反对的声音盖过威胁论。为此,FacebookCEO扎克伯格还和特斯拉CEO马斯克怼上了。马斯克说他一谈到人工智能,就感到恐惧,他认为人工智能是人类存在的最大风险。而扎克伯格却认为人工智能会让人们的生活更美好,还称马斯克的威胁论极不负责任。

创新工场董事长、CEO李开复也公开反对马斯克的“威胁论”,他明确反对马斯克“人工智能终将灭绝人类”的悲观论调。李开复表示,人工智能现在仅仅是人类的工具,离拥有意识的“超级智能”的能力还非常遥远。

针对此次Facebook关闭“失控”AI事件,李开复发表文章称,人形机器人将马上进入千家万户的说法是无稽之谈。当机器人在言谈举止各方面都与人类极其相似时,普通家庭用户对机器人的“人类素质”的期望也会变得高不可攀。仅仅这种期望所带来的失望就足以让很多公司的“未来十年让科幻小说成为现实”的展望受挫,更别提消费市场对价格的苛刻要求了。

对人工智能持怀疑态度的最强大的代表是著名物理学家霍金。在今年早些时候举行的2017全球移动互联网大会(GMIC)上,霍金通过视频发表主题演讲。他表示:“人工智能的崛起可能是人类文明的终结。”

这已经不是霍金第一次提出“人工智能威胁论”。在今年3月,霍金向英国《独立报》表示,人类必须建立有效机制尽早识别威胁所在,防止人工智能对人类的威胁进一步上升。

不过,霍金也表示,虽然他对人工智能有各种担忧,但他对人工智能技术本身还是抱有乐观的态度。他认为人工智能带来的收益是巨大的,人类或许借助这一强大的工具,可以减少工业化对自然的伤害。但他表示不确定我们是会被智能无限地帮助,还是被无限地边缘化,甚至毁灭。

借用霍金的话说:“这是一个美丽但充满不确定的世界,而你们是先行者。”

以上是关于嵌入式中-Facebook否认AI失控 忘记设置英文语法了的相关介绍,如果想要了解更多相关信息,请多多关注eeworld,eeworld电子工程将给大家提供更全、更详细、更新的资讯信息。


关键字:Facebook  AI 引用地址:Facebook否认AI失控 忘记设置英文语法了

上一篇:RNA处理器:新生物计算机能并行处理多个复杂信号
下一篇:显示屏指纹识别传感器商用时间推迟

推荐阅读最新更新时间:2024-05-03 01:25

人工智能分分钟融入你我生活,凯文凯利这次又预言对了
硅谷精神教父、科技商业预言家凯文·凯利2016年中国首场演讲选择了正在广州举办的国际电子商务博览会(IEBE)。   近日,《连线》杂志主编、《失控》《必然》的作者凯文·凯利(以下简称KK)空降广州,以“万物互联 开启智享经济时代”为主题,进行了一场预言未来的演讲。KK认为: 人工智能 很快就会成为一种日用品; 虚拟现实 设备将会成为智能手机之后又一个“扰乱”现实的平台;而一切可以被追踪的都将被追踪。在随后的“智享新商业”高峰对话环节,国内智能语音领导者科大讯飞轮值总裁胡郁、国内最大的图片识别云平台图普科技创始人兼CEO李明强、“移动互联网第一股”点点客董事长兼CEO黄梦、国内首个移动广告平台有米创始人兼CEO陈第与KK就基于新
[嵌入式]
通用机器人不再遥远,谷歌展示全球首个多任务AI智能体
近日,谷歌旗下的AI团队DeepMind推出了一个可以自我改进、自我提升的用于 机器人 的AI智能体,名为RoboCat。 RoboCat本质上是由AI赋能的软件程序,可以作为机器人的“大脑”,由其加持的机器人与传统机器人不同之处在于,RoboCat机器人更具“通用性”,并可实现自我改进、自我提升。 DeepMind称,RoboCat是全球第一个可以解决和适应多种任务的机器人AI智能体,并且它可以在各类真实的机器人产品上完成这些任务。 据DeepMind的介绍,只需要通过100次左右的演示,RoboCat就可以学会操控 机械臂 来完成各式各样的任务,然后通过自生成的数据来进行迭代改进。 要知道,构建通用机器人之所以进展缓慢,一个重
[机器人]
美国最适合实习的6家科技公司 苹果FaceBook未上榜
6月13日消息,据国外媒体报道,实习生通常是“廉价劳动力”的代名词,但近年来,科技公司竞相提高实习生薪酬,以求聘得优秀人才。如果选择得当,实习生也可能获得优厚报酬,最高可达每月6000美元。 近日,美国职业交流社区Glassdoor网站公布的一项报告显示,最适合实习生的20家公司中,6家都是科技公司。具体情况如下: 1. 谷歌 谷歌入选实属情理之中。谷歌软件工程师实习岗位的平均薪酬高达每月6463美元。当然,但并非所有实习岗位都有如此待遇,例如:谷歌BOLD项目的实习生薪酬仅为每月3444美元(该项目实习岗位多数为商务性质,而非技术岗位)。 2. 微软 微软给予实习生的待遇也不逊色。研发实习生每月可以拿到6746美元。软
[手机便携]
Nexar推出新AI图像分析系统 可大大提高车辆定位准确度
(图片来源:Nexar公司官网) 据外媒报道,以色列公司Nexar正在研发一种网联汽车网络,该网络基于行车记录仪和一个配对的智能手机应用程序收集而来的数据,而且该公司提出了一个可扩展的方法,能够提升城市地区GPS定位准确性。 此外,为了推进安全应用的可视化定位研究,Nexar还推出一个数据集和标准检查程序,此类数据集和标准检查程序基于其网联汽车网络中的行车记录仪和GPS的匿名信息。配合使用Nexar驱动的行车记录仪以及Nexar应用程序,驾驶员可加入该公司的安全驾驶网络,该网络内的每辆车都可在周围车辆的帮助下,了解前方路况。该系统有助于共享有关碰撞、交通堵塞、车道封闭和前方路况危险等信息,以在全球范围内消除碰撞事故。
[汽车电子]
Nexar推出新<font color='red'>AI</font>图像分析系统 可大大提高车辆定位准确度
光学AI芯片初创公司Lightelligence获千万美元融资 百度参与领投
电子网消息,据外媒报道,光学技术初创公司Lightelligence近日获得了1000万美元种子轮融资,由百度风投和美国半导体高管财团领投。 Lightelligence的创始人兼CEO沈亦晨2016年博士毕业于MIT,他还兼任Lux Labs的联合创始人。Lightelligence主要利用基于光学的新技术来加速人工智能的工作负载,通过所谓光子电路的新兴技术来加速信息处理,光子电路是电子电路更有效的替代方案,进行计算的不是电子而是光子。Lightelligence创始人兼产品副总裁Paul Xie指出,电子通过铜线传输时会产生热量,而光子传输时不会产生热量,而且损失很小,因而光计算更为节能,有望将现有人工智能芯片的计算能力提
[半导体设计/制造]
Arm 更新 Neoverse 产品路线图,实现基于 Arm 平台的人工智能基础设施
新闻 重点 : Arm 宣布推出两款基于全新第三代 Neoverse IP 构建的新的 Arm Neoverse 计算子系统 Arm Neoverse CSS V3 是高性能 V 系列产品组合中的首款 Neoverse CSS 产品;与 CSS N2 相比,其单芯片性能可提高 50% Arm Neoverse CSS N3 拓展了 Arm 领先的 N 系列 CSS 产品路线图;与 CSS N2 相比,其每瓦性能可提升 20% 在短短四个月内, Arm 全面设计 生态项目已吸引超过 20 家成员加入,并在三家领先的代工厂进行系统级芯片和芯粒设计 Arm 控股有限公司(纳斯达克股票代码:ARM,以下简称“Arm”)今
[嵌入式]
未来制造业将离不开AI和机器人
过去数十年间,人们利用自动化技术代替人力劳动和提升生产效率,并获得了更高的价值回报。而今天,这种自动化的提升空间越来越少,面对市场需求新的变化,制造商需要融合机器人、大数据、人工智能等多项技术,以创造一个更灵活,能够快速响应市场需求的制造系统,这样才能获得优势竞争力。 从当前的制造业环境来看,市场需求在不断的变化,企业追求快速创新以寻求更多的机遇,工厂的生产计划可能随时会被打断。随着个性化需求和服务开始增长,传统的制造模式将无法满足多样化生产的需求,所以必需升级到具有个性化定制能力的智能制造模式。 未来,人工智能将在提升企业优势竞争力方面变得越来越重要,制造企业的下一个重要任务将是思考如何利用人工智能提升机器效率,以及怎样改善业务
[机器人]
边缘AI芯片商ArchiTek宣布获得SiFive的RISC-V内核许可
ArchiTek宣布从SiFive获得RISC-V 内核许可,以完成其AiOnIc人工智能处理器的概念验证。 “ SiFive E3系列核心IP使我们能够实现性能,功率和面积的最佳表现,而SiFive内核设计者和SiFive合作伙伴DTS-Insight帮助缩短了我们的开发时间。” ArchiTek首席执行官兼首席技术官高田修一(Shuichi Takada)表示。 AiOnIc的架构称为“aIPE”,旨在用于无风扇边缘AI应用程序。总部位于大阪的ArchiTek宣称:“ aIPE架构将同步定位和映射(SLAM)的处理时间减少到了通用CPU的1/20,并提高了使用OpenPose进行人类感知计算的操作速度,相对于GPU而言
[嵌入式]
边缘<font color='red'>AI</font>芯片商ArchiTek宣布获得SiFive的RISC-V内核许可
小广播
最新嵌入式文章
何立民专栏 单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

换一换 更多 相关热搜器件
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved