QbitAI量子位

文章数:5706 被阅读:83747406

账号入驻

刑啊!智能音箱让10岁女童摸电门,内容来自网络却不审核,这锅该谁来背?

最新更新时间:2021-12-29
    阅读数:
晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI

亚马逊语音助手Alexa差点闯下大祸,它居然让一个孩子去做触电游戏,摸电门的那种。

当时的情况是这样的:

一名10岁女童让Alexa告诉她一个挑战。Alexa说,把手机充电器半插在墙上,漏出插脚,然后用一枚硬币去接触插脚。

幸好这名女童的母亲也在家,Alexa“作死”的回答被她听到并及时制止。而且孩子也有不错的安全意识,才防止了可怕的后果。

这位母亲事后发Twitter说:“我女儿说她太聪明了,无论如何不会做那样的事情。”

没想到在我们身边的智能音箱,居然成了威胁儿童安全的“杀手”。

这位母亲的反馈很快引起了各大媒体的关注,她本人的Twitter也被大量转发。

得知消息的亚马逊迅速从Alexa上移除了这个危险的答案。

智能音箱为何变“智障”

为何智能音箱变成了“智障”音箱,安全意识还不如一个十岁的孩子?

从这位母亲的手机截图里我们可以找到答案:

大多数的语音助手,包括Alexa在内,其实只能回答一些套路问题,比如“天气怎么样”、“最近有哪些电影”等等。

如果问题稍微偏一些,超出了套路,语音助手就会从网上搜索内容作为答案。

这里Alexa是从当地一家网络媒体网站上找到了一条2020年1月的新闻。

这则新闻描述了在短视频平台上病毒式传播的“硬币挑战”,就是把硬币插在裸露的插脚上。

当时,媒体批判了这种“愚蠢”的行为,并指出潜在的风险,包括触电、短路引发火灾等等。

显然,亚马逊Alexa是从这里摘取的内容,却没有分辨出负面的评价。

亚马逊Alexa是否该对搜索结果负责,网友们分成两派看法。

一派认为,Alexa只是信息中介。如果一个孩子接到电话,电话里有不当内容,我们不会去责怪电话,而只会责怪电话那头的人。

而另一派认为,亚马逊不是卖音箱,而是卖语音助手,Alexa就相当于电话那头的人。

因此亚马逊不应该只简单提供搜索结果,还应当筛除里面不安全的内容。如果语音助手不具备明辨是非的能力,返回危险乃至违法的行为,这个“锅”必须得背。

短视频恐难辞其咎

在这起事件中,不可忽略的是短视频平台出现的一些“愚蠢挑战”。

2020年“硬币挑战”的病毒式传播已经造成了实质伤害。

两名美国中学生因为在学校进行“硬币挑战”,造成了插座烧毁,并引发了火警警报,最终面临企图纵火和恶意破坏财产的指控。

“硬币挑战”仅是其中之一,还有生吞洗衣胶囊、生吞肉豆蔻粉挑战,这些挑战都造成了模仿者险些丧命的事故。

著名YouTube医学类博主Chubbyemu把这些当做医学案例来讲解,并告诫大家不要模仿。

亚马逊Alexa不能明辨是非固然有错,但短视频平台对危险行为不加以制止,恐怕也难辞其咎。

但是国外网友在询问谷歌语音助手同样问题时,得到的是一些智力问答题,内容无害。显然亚马逊的推荐算法在审核信息来源时做得不够好,收录了不合理内容。

你觉得语音助手和短视频平台谁的锅更多一点?

参考链接:
[1]https://twitter.com/klivdahl/status/1475220450598924297

[2]https://ourcommunitynow.com/news-national/watch-out-parentsthe-viral-outlet-challenge-has-kids-doing-the-unthinkable
[3]https://news.ycombinator.com/item?id=29709369
[4]https://www.bbc.com/news/technology-59810383

本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容,未经账号授权,禁止随意转载。

「智能汽车」交流群招募中!

欢迎关注智能汽车、自动驾驶的小伙伴们加入社群,与行业大咖交流、切磋,不错过智能汽车行业发展&技术进展。

ps.加好友请务必备注您的姓名-公司-职位哦~


点这里


最新有关QbitAI量子位的文章

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2022 EEWORLD.com.cn, Inc. All rights reserved