警惕你身边的智能设备,它有可能正在偷听你...

2019-08-20来源: eefocus关键字:智能音箱  AI  Alexa

你的AI助手,正在……可能正在窃听你。


苹果、微软、Google……海外几家大公司,都先后被曝出利用智能音箱/手机,偷录用户谈话,并将部分含有用户隐私之录音,发送给了负责识别精确度核查的第三方承包商。

 

 

 

这些片段的内容五花八门:性录音、家庭八卦、亲友之间的通话内容……甚至还有疑似毒品交易现场的谈话。而外包团队在负责核查之余,还会将含有“笑料”的片段,在公司内部传播取乐。

 

一个AI背后,到底有多少人在偷听你?

 

隔墙有耳

 

第一个倒下的是亚马逊。

 

今年4月11日,彭博的一篇报道,拉开了“AI窃听门”的序幕:亚马逊为了强化Alexa智能助手的表现,在全球范围内雇用了上千名人类员工,对Alexa智能音箱录下的声音片段进行人工审查和监听。

 

 

一名人类员工,每天最多会听到大约1000条亚马逊发来的用户录音。他们需要将录音转述成文字,为特定的关键词打上标记,最后再将转写下来的文字和音频归档。

 

问题在于,亚马逊送来的对话里,有时会夹杂一些奇怪的东西:浴室里传来的跑调歌声、小孩子的尖叫、模糊不清的求助声……这些都是语音助手被误唤醒时录下的片段。而据报道,负责审核的员工们,似乎并不太在意这些录音的私密性。遇到特别有意思的片段,还会在公司内部分享,以此取乐。

 

 

面对这种丑闻,亚马逊方面迅速做出了回应,称人类员工对录音作出的标记,有助于Alexa改善理解能力。而且公司有着严格的保密措施,员工无法直接获得跟录音相关联的账号信息。被标记的用户录音,也只是Alexa所录片段中极少量的一部分。

 

7月份,事情开始失控:Google的语音助理也被曝出,有人类员工在背后监听智能音箱,和手机App的录音内容。外媒甚至拿到了一段Google语音助理录下的片段,轻而易举地找到了这份录音的原主人。

 

 

等到月底,苹果的Siri也加入了窃听门的行列。由于Apple Watch更容易误触,审核人员听到的内容也更加糟糕:拉拉链的声音(显然是刚上完厕所)、毒品交易现场、以及……不慎被HomePod/Apple Watch录下来的滚床单片段。

 

 

说好的“What happens on your iPhone, Stays on your iPhone. ”呢?

 

 

8月份,更过分的来了:微软被曝出监听用户的Skype通话内容,以及跟Cortana之间的交谈记录。据外媒报道,微软这边能听到的内容也是五花八门:详尽的地址信息、十分露骨的搜索请求、和某些不能详细描述,反正是带点颜色的Skype记录。

 

 

至于监听用户Skype通话的理由,微软后来回应称,是为了改善那项2015年发布的,内置在Skype当中的AI同传服务。只不过他们当时没告诉你,除了AI之外,听你说话的还有其他人。

 

最后一个沦陷的是Facebook。尽管没有语音助手,但他们还是将旗下Facebook Messenger 中用户发送的语音转文字消息,通过外包方式交给了第三方进行核查。尽管波及范围不如前面几家公司广泛,但爆料人士依然指出,有部分录音内容“相当敏感”。

 

 

大公司们为什么要做这种事?人工智能,不是挺聪明的吗?

 

人工智能的B面

 

有多少智能,就有多少人工。

 

 

现如今什么产品都讲究一个“增智慧”。从AI摄影到AI助手,线上智慧生活无处不在。但鲜少人知的是,养AI跟养孩子差不多。需要有人不断地教给它们什么是对,什么是错,才能得到越来越精确的结果。

 

图像分割 、图像识别、语音转文字、语义分割……这些都需要有人类从旁协助。原始录音就是问题,而人类整理好的誊写内容,就像单词卡片背面的答案。

 

 

人工智能越来越热,这些用数据饲喂AI的人,也越来越多。需要让AI理解人类语言?那就让人类把一句话按照规则拆开,再交给程序去学习。需要让AI学会看路?那就先让真人把照片里的车、人、路灯……统统做好标记,再交给AI去慢慢认就好了。

 

 

没错,拿脱敏过的用户录音给人类听,再用结果去矫正AI,其实算是举球通行的惯例。如果不信,你可以看看百度DuerOS的这份隐私政策:

 

 

以及,这是小爱同学的:

 

 

和天猫精灵的:

 

 

换句话说,你有权保持沉默(或者拔插销),但你被录下来的每一句话,不管有意还是无意,都可能成为喂养AI的饲料。而且他们并没有告诉你,“用于改进和提高产品”的潜台词是,你对音箱所说的话,也可能会有人类工作人员听到。

 

 

严格来说,这些信息应当只在企业内部分享,而且员工对录音内容负有保密义务。虽然你不小心被AI录下来的黄段子(或者别的什么更糟糕的东西)有一定概率会被人类听到这件事非常让人不爽,但平心而论,这算不上什么隐私泄露事故。

 

当然了,这不代表这些做法没问题,我们等会儿再说这个。

 

 

“饲养AI”曾经一度催生了庞大的下游产业。智能音箱最火热的时候,甚至出现了大量专做数据标注的外包团队。不需要学历,不需要经验,经过简单的培训,一个人很快就能学会给图片拉框,给人脸加点,把语音转成文字……

 

不知道有没有人意识到这当中的荒谬:从诞生的第一天起,这份工作的最高目标,就是消灭自身。

 

(这种验证码本质上也是数据标注)

 

还有一些公司,将这种“时间密集型”工作,做成了谁都可以在家赚外快的网络任务。他们需要做的可能是教AI听懂人话、识别人类的骨骼点,或者是给聊天机器人编写一些有意思的回复。

 

被制作的素材,和标注数据的人一样,都只是完成AI所必须的工具而已。

 

大数据=无隐私?

 

欢迎来到21世纪。

 

收集数据-脱敏-分析,是当代大数据应用的通行做法,也被多国监管部门认可。但是有研究表明,这种做法其实没什么作用。

 

 

英国伦敦帝国理工学院的研究人员,利用公开的匿名数据训练了一个AI,结果只用到了生日,性别,居住地邮编和子女数量,就能从匿名数据集中,定位出整个马萨诸塞州79.4%的人口。如果特征量进一步增加,准确度甚至能达到99%以上。

 

 

换句话说,即使拿掉了姓名、电话和身份证号,还是有办法从大数据中找出特定的某个人。何况根据之前的报道,审查人员还是能听到用户亲口说出的私密内容。所谓的隐私把控,好像从数据脱敏这一步开始就已经失灵了。

 

更可怕的是,集中存放的隐私数据,本身就是一块闪光的肥肉:海外一间指纹锁公司Suprema由于安全漏洞,被人摸到了超过100万人的指纹和人脸识别数据,且关键信息大多未经加密。密码泄漏可以再改,人脸识别数据被人偷走,恐怕只有换脸才能解决。

 

(泄漏出来的后台数据截图)

 

随着智能设备越来越深入地进入家庭,我们在各种系统中被留下,又被泄漏的痕迹,只会越来越多。这样说来,在家里洗澡时的跑调歌声被数据标注员听到,已经是各种AI相关事故里危害最小的一种。

 

数据就是力量

某种意义上说,被大数据和AI包围的,极端便利的现代生活,是以我们对自身隐私数据的让渡为代价的。麦克风、摄像头、GPS、指纹传感器……他们收集到的数据,随时可以成为追踪和监看你的绝好素材。差别在于,看着这些数据的究竟是无感情的机器,还是活生生的,怀有善意或恶意的人类?

 

 

大多数人对此毫无知觉,也没法控制。被曝光之后,海外的几家大公司,都先后宣布停止了外包团队对用户录音的审核。Alexa和Google也提供了入口,允许用户删掉他们留在平台上的录音资料。起码在海外,他们对自己的数据多了一点掌控。

 

但在国内,想删除自己的数据没这么容易。小米和百度的个人信息删除,都需要向指定邮箱发送邮件来提出申请,天猫精灵则需要联系客服。而且跟海外不同,这些删除请求都带有非常严格的附加限制。

 

这些东西都藏在几乎没人会读的隐私条款里。粗略看下来,一个普通用户想删掉自己的个人信息,难如登天。

 

 

跟AI一同走向成熟的这一代人,已经不可避免地,成了大公司喂饲给机器学习的数字饲料。唯一的问题是,等到AI足够聪明的那天,这种饲喂会停下来吗?

 

 

或者说,下一代人还会在乎这件事吗?


关键字:智能音箱  AI  Alexa

编辑:什么鱼 引用地址:http://news.eeworld.com.cn/qrs/ic471855.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:佳能RF24-240mm F4-6.3 IS USM卡口镜头评测
下一篇:极米新H3智能投影:普通家庭用户日常观影的理想伴侣

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

百度智能音箱第二季度销量赶超谷歌,国内市场巨大

据外媒报道,市场研究机构Canalys发布最新报告显示,在2019年第二季度,全球智能音箱出货量共为2610万部,同比增长55.4%。其中,亚马逊仍是市场领先者,百度则超过谷歌,成为全球第二大智能音箱供应商。 Canalys发布的数据表示,百度在2019年第二季度的出货量达到450万部,占据了全球市场17.3%的份额,同比增长3700%。与之相比,谷歌的出货量为430万部,市场份额为16.7%,被百度全面超越。与此同时,亚马逊仍然是市场的领先者,第二季度出货量达660万部,拥有超过25%的市场份额。 百度人工智能音箱采用DuerOS系统。该公司最初的产品是Raven H音箱,其为青少年工程师设计,定位高端市场
发表于 2019-08-28
百度智能音箱第二季度销量赶超谷歌,国内市场巨大

Apple将推出HomePod智能音箱,谁会为高价买单?

Apple宣布夏季末将在日本市场推出智能音箱HomePod,产品主打音乐播放功能,可采AirPlay串流第三方音讯来源,并可透过Siri使用声控助理功能,产品价格分别为32800日圆(约2170人民币)。 产品功能有限,消费动机不足Apple智能音箱HomePod继2019年1月18日登陆大陆地区和香港地区后,预计将于第三季进入日本市场,主打产品特色为根据空间自动调整的音响效果,而除了可拨放Apple生态系中的音乐和广播节目外,也能透过AirPlay串流第三方音讯来源如Spotify,并搭载Siri语音助理,声控查询天气、传讯、控制智慧家庭产品。  目前全球市场上智能音箱的主要功能,以及消费者最常使用
发表于 2019-08-20
Apple将推出HomePod智能音箱,谁会为高价买单?

Strategy Analytics:2019年Q2全球智能音箱销量飙升到3030万

Strategy Analytics智能音箱和屏幕(SSS)研究服务最新发布的研究报告《2019年Q2智能音箱厂商&OS出货量和使用量市场份额按区域划分》指出,2019年Q2智能音箱的全球销量持续飙升,达到3030万台,几乎是2018年同期的两倍。 亚马逊以21.9%的市场份额保持领先,但其份额比2018年Q2的29.1%有所下降。谷歌保持第二,其次是百度、阿里巴巴和小米。 与去年同期相比,苹果的智能音箱保持在第六位,其销量增长了81%,但份额略有下降。Strategy Analytics总监David Watkins表示:“所有地区的Q2销量同比、环比都有所增长,亚太地区仍然是最大的地区。 
发表于 2019-08-15
Strategy Analytics:2019年Q2全球智能音箱销量飙升到3030万

Facebook竞争对手均获成功,为何在硬件领域步履艰难?

入。根据今年一月份的一份研究和市场报告,到2024年,包括智能音箱和娱乐产品在内的智能家居市场的收入预计将达到1514亿美元,高于去年的766亿美元。这份分析没有将Facebook包括在30多家被列为潜在关键参与者的公司之列。 外媒在报道Facebook面临的硬件挑战时,以八号楼的兴衰为例,采访了该团队的十几名前员工。这些员工要求匿名,因为他们没有被授权讲述自己的经历。 杜根拒绝就本文接受采访。  一位有远见的高管杜根拥有加州理工学院机械工程博士学位,她在美国国防高级研究计划局(DARPA)的工作获得了科技行业的认可。2009年至2012年,她担任DARPA的主任。谷歌于2012年聘请
发表于 2019-08-06
Facebook竞争对手均获成功,为何在硬件领域步履艰难?

外媒:华为被列入黑名单前正在和谷歌合作开发智能音箱

外媒《CNET》转述《The Information》消息,多位知情人士透露,在华为被列入美国实体管制名单之前,该公司正与谷歌合作开发智能音箱,但相关合作在五月便已终止。根据《The Information》报道,原本华为的智能音箱将搭载谷歌数位助理,预计在今年9月发布,并在美国销售。某位匿名华为员工表示,他们已经与谷歌合作一年,也取得很多进展,然而却一切都突然终止。在华为被列入黑名单后,谷歌就停止更新华为手机的作业系统,也使得华为必须加快发展内部作业系统鸿蒙的脚步。华为在五月被列入美国的出口管制名单,但是在本月初,美国商务部长Wilbur Ross证实,只要交易并不牵扯到国家安全,美国公司仍能将物品卖给华为。在上周,美国总统
发表于 2019-08-01

MathWorks 发布2019b MATLAB 和 Simulink,助力AI,汽车发展

MathWorks宣布推出了 Release 2019b,其中包含一系列的 MATLAB 和 Simulink 新功能,包括对人工智能、深度学习和汽车行业的支持。另外,R2019b 引入了支持机器人技术的新产品、基于事件建模的新培训资源,以及对 MATLAB 和 Simulink 产品系列的更新和 Bug 修复。版本亮点包括: MATLAB  R2019b 中的 MATLAB 亮点包括引入了Live Editor(实时编辑器)任务,让用户能够交互式地浏览参数、预处理数据,并生成 MATLAB 代码,成为Live Script(实时脚本)的一部分。现在,MATLAB 用户能够专注于任务本身,而不是语法或复杂的代码,
发表于 2019-09-17

小广播

何立民专栏

单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2019 EEWORLD.com.cn, Inc. All rights reserved