关于人工智能的六点担忧

发布者:zhihua最新更新时间:2018-04-13 来源: ofweek关键字:人工智能  聊天机器人 手机看文章 扫描二维码
随时随地手机看文章

2017年,人工智能的发展又到达了一个高峰期,首席信息官、顾问和学者们纷纷表示,这项技术将使得从商业、IT运营到客户联系在内的任何事情实现自动化。然而,进入2018年,越来越多的媒体开始报道人工智能的潜在威胁。

然而,Babson College 的教授Thomas Davenport在其认知技术课上表示:“在媒体上有这么多的炒作,这只是记者试图通过谈论消极的一面来扩大炒作罢了。” 即便如此,这些担忧并不新鲜,从对种族、性别和其他因素的偏见到自动驾驶的无人机可能会带来致命的后果,这些问题一直都存在。

不久前,《麻省理工学院技术评论》(《MIT Technology Review》)发表了一篇题为《如果人工智能最终杀死了一个人,该谁负责?》的文章,这篇文章提出了一个问题:如果自动驾驶汽车撞击并杀死了一个人,应该适用什么样的法律呢?在这篇文章发表仅一周之后,一辆自动驾驶的Uber汽车在亚利桑那州撞死了一名女子。

为此,CIO.com详细列举了一些关于采用人工智能的担忧和隐患,以及为希望开始测试使用该技术的首席信息官们提供的建议。

对人工智能的担忧:

1.不可控的“粗鲁行为”

正如我们从微软的Tay聊天机器人事件中了解到的,会话式消息系统可能是荒谬的、不礼貌的、甚至是非常令人不快的。首席信息官们必须对自己使用的东西以及使用它们的方式非常小心。要摧毁一个品牌的形象,只需要聊天机器人一次令人恼怒的爆发就足够了。

2.感知能力很糟糕

谷歌人工智能科学家及斯坦福大学教授李飞飞在《纽约时报》的一篇专栏文章中表示,人工智能虽然是由人类开发的,但是具有讽刺意味的是,它根本不像人类。她表示,人类的视觉感知是高度背景化的,但人工智能对图像感知的能力却非常的狭隘。为此,人工智能程序员必须与领域专家合作——回归该领域的学术根源——以缩小人与机器感知之间的差距。

3.黑匣子难题

许多企业都想使用人工智能,但金融服务等行业的公司必须非常小心,因为对于人工智能是如何得出其结论这个问题尚未能解决。Fannie Mae的运营和技术负责人Bruce Lee表示:“企业如果不能解决好样本数据偏见对借贷公平造成的影响,就无法提供更好的抵押贷款利率。在诸如信贷决策之类的工作里,人工智能实际上受到了很多监管的阻碍,很多问题有待解决。所以我们所做的很多事情都必须进行彻底的回溯测试,以确保没有引入不恰当的偏见。”

如果人们不清楚人工智能软件如何检测模式并观察结果,那么对机器的信任能够到达何种程度也有待考究。Fox Rothschild律师事务所技术实践联席主席Dan Farris表示:“背景、道德和数据质量是影响人工智能价值可靠性的重要因素,特别是在受到高度监管的行业中更是如此。”他表示:“在任何受到高度监管的行业中部署人工智能都可能会导致合规性问题。”

4.民族和社会经济方面的偏见

在进行一个使用谷歌街景汽车图像来确定全美国城镇人口结构的项目中,斯坦福大学的博士生Timnit Gebru对于她的研究中对种族、性别和社会经济方面的偏见感到担忧。根据彭博社的报道,正是这种担心促使Gebru加入微软,她正在这里努力地挖掘人工智能的偏见。

即使是人工智能虚拟助手也会受到偏见的影响。你有没有想过为什么虚拟助理技术——例如Alexa、Siri和Cortana都设定为女性?客户服务软件专家LivePerson的首席执行官Rob LoCascio对CIO.com表示:“这源于人类自己对职场中女性的期望。许多人认为,女性本质上是‘助手’;她们更爱‘唠叨’;她们更多地担任行政职务;她们更擅长接受订单……”

5.黑客利用人工智能发动致命的攻击

一份由剑桥大学、牛津大学和耶鲁大学25位技术和公共政策研究人员撰写的98页的报告指出,人工智能的快速发展意味着存在恶意用户很快就会利用该技术进行自动黑客攻击,模仿人类传播错误信息或将商业无人机转化为目标武器。

牛津大学未来人类研究所(Future of Humanity Institute)的研究人员Miles Brundage 对路透社表示:“我们承认,人工智能有很多积极的应用。但是,它也的确存在着一个有关恶意使用问题的缺口。”

6.奴役理论

以特斯拉和SpaceX成名的企业家Elon Musk警告说,人类冒着成为独立“家猫”的风险创造具有卓越智慧和能力的人工智能。最近,以色列历史学家Yuval Noah Harari也提出,以自动化为核心的人工智能的出现,可能会造成一个“全球无用阶级”。 在这样的世界里,民主会受到威胁,因为人类并不像机器那样了解自己。

IT规划未受影响

即便如此,仍然有人抱着乐观的太对。Davenport表示,这些担心在很大程度上都是被夸大了。例如,偏见长期以来也一直存在于普通的分析项目之中。“我从来没见过任何一个曾经从事过分析工作的人会说偏见不存在。” Davenport最近完成了一本新书——《人工智能优势:大企业使用人工智能的一切》,他表示几家大公司正在非常负责任地测试人工智能。

“很多企业已经在实践中应用人工智能技术,并且没有停止这一系列IT计划的想法。”Davenport补充说,“虽然这项技术仍然不成熟,但聪明的公司知道如何更好地应用,并且尽力避免受到来自媒体的各种正面和负面看法的左右。”

事实上,根据Gartner的统计,IT领导者似乎基本上不被炒作困扰,据统计,有超过85%的首席信息官将在2020年前通过购买、构建和外包的方式试点人工智能。


关键字:人工智能  聊天机器人 引用地址:关于人工智能的六点担忧

上一篇:发展人工智能 高校路线图渐趋清晰
下一篇:工业机器人的Rv减速器和谐波减速器对比分析

推荐阅读最新更新时间:2024-05-03 02:44

Topbots盘点世界值得注目的113家人工智能企业,来看看有哪些吧
Mariya Yao是Topbots的设计互动主管,Topbots是一家专门针对聊天机器人、会话代理的媒体营销公司。Mariya Yao最近刊发文章,对全球知名的企业型AI公司进行汇总,上榜企业有113家,让我们来看看都有哪些。下面就随手机便携小编一起来了解一下相关内容吧。 放眼全球,面向企业的公司组成一个庞大的市场,规模达到3.4万亿美元,不过该市场划归AI的部分越来越大。 按照我们的定义,“企业”技术公司就是开发工具给办公角色使用的企业,还有就是开发一些功能给大量企业使用的企业。例如,Salesforce就是一家企业软件开发商,它的软件被企业销售专业人员使用。这种软件就是所谓的客户关系管理软件(CRM),它是一个系统,可
[手机便携]
Cadence计算软件 | 不断拓展智能系统设计边界!
2023年,对半导体行业来说是艰难的一年,尤其是因为库存的调整而造成收入和投资的双减。但Cadence资深副总裁兼数字与签核事业部总经理滕晋庆表示,在不确定的环境中仍然看到了很多确定的增长。 Cadence资深副总裁兼数字与签核事业部总经理滕晋庆 一方面,全世界半导体公司的设计依然十分活跃,因为所有先进的产品都需要花费数年的时间来研发。另一方面,全球半导体从业人员也在非常努力地推动下一代产品的发展。整个行业出现了多种驱动因素,包括5G通讯、自动驾驶、人工智能与机器学习、工业物联网以及超大规模计算等。 据市场调查机构 IBS 最新预测,到 2030 年整个半导体行业将突破 1 万亿美元的大关,几乎是现在的两倍。令人更为
[半导体设计/制造]
Cadence计算软件 | 不断拓展智能系统设计边界!
韩国计划未来5年内向人工智能技术投资130亿元
据韩联社报道,韩国信息通讯技术部门周二表示,韩国将在未来5年内投资2.2万亿韩元(约合130亿元)开发核心人工智能(AI)技术,以在2022年前成为该领域的全球巨头。    根据科学和信息通信部宣布的计划,韩国政府将牵头制定一个包括研发在内的国家人工智能计划,以加入世界强国的行列。    韩国第四次工业革命总统委员会主席Chang Byung-gyu 表示:“政府认为,通过与私营企业联手,获得人工智能核心技术,不仅将达到全球标准,而且最终会培养出人才并做出高质量的工作。我们的目标是,到2022年进入全球前四名。”    韩国政府表示,它的目标是在美国和中国的领导下,自主开发与同行相媲美的技术,并最终减少对它们的依赖。    韩国官
[半导体设计/制造]
iPhone7中的FPGA芯片透露苹果未来AI动向
    威锋网讯,每一代新 iPhone 发布后就会很快被拆解,而当中较为著名的拆解团队就包括了 iFixit 和 Chipworks,尽管 iPhone 7 相比 iPhone 6s 在元器件的种类上并没有太大变化,但这并不意味着拆解就是没有任何惊喜的。      据 Chipworks 近日介绍,iPhone 7 还配备了一颗 FPGA 芯片,该芯片来自莱迪思半导体公司(Lattice Semiconductor),FPGA即现场可编程门阵列(Field-Programmable Gate Array)。它是作为专用集成电路(ASIC)领域中的一种半定制电路而出现的,特点是逻辑可定制、功耗低、在矩阵计算,激活函数等运算方面
[手机便携]
以“智”生“效”:英特尔AI助力欧洲加速造纸流程
以“智”生“效”:英特尔AI助力欧洲加速造纸流程 英特尔联合byteLAKE所开发的AI解决方案可帮助造纸厂提高效率并降低成本。 新闻:byteLAKE和英特尔正在合作开发一款全新AI解决方案,能够在造纸过程中实现干、湿两线的自动化管理。该解决方案旨在帮助造纸厂在造纸过程中避免因操作流程中断而付出昂贵的代价。byteLAKE的造纸厂湿线检测器(Wet Line Detector)现已在市场发售,并于欧洲造纸厂中成功部署。它已被纳入名为byteLAKE认知服务(Cognitive Services)的工业4.0 AI解决方案集合中,该服务可提供AI辅助目视检查和大数据/物联网传感器数据分析。 “byteLAKE多年来一直
[工业控制]
意法半导体推出车规人工智能惯性测量单元,适合环境温度高达125°C的始终感知应用
面向导航辅助、远程信息处理、防盗和运动激活应用,增强驾驶便利性、安全性和舒适性 2023年12月12日,中国 - 意法半导体的车规ASM330LHHXG1惯性测量单元(IMU)整合传感器内部人工智能与改进的低功耗工作模式,并将最高工作温度扩展到125°C,确保传感器能够在恶劣环境中可靠地工作。 意法半导体的新车规IMU集成一个三轴加速度计和三轴陀螺仪,工作电流在两个传感器同时运行的情况下小于800µA。 低功耗特性可降低系统电源预算,促进该产品在始终感知应用中的推广使用。通过利用内置的机器学习核心(MLC)和有限状态机(FSM),传感器内部人工智能可以减少主处理器的工作负荷,使事件检测和分类工作用时更短,能效更高。
[传感器]
意法半导体推出车规<font color='red'>人工智能</font>惯性测量单元,适合环境温度高达125°C的始终感知应用
人工智能“击败”人类预报员是“伪命题”
人工智能的明星选手“阿尔法狗”,在打败人类围棋界顶尖高手李世石、柯洁之后,旋即被零基础自学成才的“阿尔法元”轻松战败,一时引发人们追问:人工智能发展之迅速,未来是否会有更多人类职业被其击败? 眼下来看似乎不然,至少在气象预报领域,这在专家看来还是一个“伪命题”。今年3月23日是第58个世界气象日,主题正是“智慧气象”,在中国气象局举办的“风云莫测,智慧前行——直击天气,与科学家聊天”的活动中,国家气象中心天气预报室副主任谌芸说,人工智能在气象领域更多是一种技术,它和人类预报员之间并不存在竞争和淘汰的关系。 在谌芸看来,目前,人工智能技术可以帮助预报员作普通的、常规天气的精准预报,但在一些灾害性、极端性、转折性的天气过程中,仍需要预
[机器人]
能效是英伟达 H100 的 8 倍,三星携手 Naver 发布新 AI 芯片
12 月 26 日消息,三星电子于 2022 年年底宣布,携手韩国互联网巨头 Naver,共同投资 AI 半导体解决方案。 据韩媒 BusinessKorea 报道,两家公司在 AI 半导体方面已有重大突破,研制出了首款解决方案芯片,其能效是英伟达 H100 产品的 8 倍。 双方推进的半导体解决方案,专门针对 Naver 的 HyperCLOVA X 大型语言模型,定制了一块现场可编程逻辑门阵列(FPGA)芯片。 Naver 表示这款芯片采用了 LPDDR 内存,能效是 Nvidia 的 AI GPU 的八倍,但没有详细说明有关该芯片的其他细节。 两家公司之间的合作重点是使用三星的先进工艺技术,结合利用计算存储、内存
[物联网]
小广播
最新嵌入式文章
何立民专栏 单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

换一换 更多 相关热搜器件
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved