AI解锁无人时代 仍需数据安全保驾护航

最新更新时间:2021-07-26来源: 科技日报关键字:AI  大数据  人工智能


近几年,科技企业在推广新一代信息技术产品时,数据安全、数据隐私等问题广受诟病。数据作为驱动人工智能快速发展的重要基础,其安全也决定了人工智能的安全。人工智能的加速发展给数据的安全治理带来了新的机遇和挑战。

  

验证码登陆、移动在线支付、人脸识别门禁……

  

随着新一代信息技术的发展,互联网和人工智能技术应用蓬勃发展,数据也被视为一种无形的资产。然而,技术是一把双刃剑,在给我们生产生活带来效率提升的同时,伴随的安全问题也不可忽视。

  

科技企业在推广新一代信息技术产品时,数据安全、数据隐私等问题广受诟病。数据安全成为当今数字化转型时代的关键紧迫议题。

  

在7月8日至10日举行的2021世界人工智能大会上,数据安全、数据治理、网络安全等问题备受关注。业界认为,在人工智能深入推进城市数字化转型过程中,企业应积极主动接受监管,推动产业健康持续发展。

     

数据安全治理面临新的机遇和挑战

  

近日,桔视记录仪等25款App因存在严重违法违规收集使用个人信息问题,被国家互联网信息办公室依据《中华人民共和国网络安全法》相关规定,通知应用商店下架。

  

此前,在上海车展特斯拉车主维权事件中,特斯拉公布了维权车主车辆事发前半小时的行车数据。该行为引发了众多争议:车企该不该将行车数据公开?人们如何确定数据的可靠性?

  

没有大数据的收集和基础,人工智能是无本之木。数据作为驱动人工智能快速发展的重要基础,其安全也决定了人工智能的安全。人工智能的加速发展给数据的安全治理带来了新的机遇和挑战。

  

“大数据驱动业务的开展,让数据安全对城市运转变得前所未有的重要,数据一旦遭到攻击,就意味着业务会停转,将造成严重的经济损失和社会后果。”360公司创始人、董事长兼CEO周鸿祎表示,最近几年,360公司接到大量医院的报警,称医院网站被勒索软件攻击之后不能进行手术,不能给病人挂号看病。

  

近年来,城市也成为了网络勒索的重要目标,而且网络攻击的对象不仅限于电脑、手机、设备、系统,还逐渐扩展到数据。人工智能数据的获取、处理和应用具有极强的隐私性与领域扩展性,关乎个人信息安全甚至国家信息安全。对政府、城市公共事业单位的数据勒索,会造成城市运转和服务陷入停摆。今年5月,美国最大的燃油输送管线遭遇网络攻击被迫关停,导致美国东海岸45%的汽油、柴油等燃料供应受到影响。

  

业界认为,针对上述情况,要让人工智能技术的头顶上高悬一把达摩克里斯之剑。

     

数据输入、分析等过程都存在相应风险

  

数据非法跨境流通可能危害国家主权和国家安全;数字信息的过度采集和非法使用,可能侵犯公民的权利和隐私;算法的偏好可能加剧社会的偏见或歧视,威胁公平正义;无人驾驶汽车紧急避险等智能决策可能威胁特定人群的生命……

  

全国政协社会和法制委员会副主任陈智敏在人工智能大会安全高端对话上指出,人工智能发展与安全发展风险同时并存,这不仅是一个技术问题,也是一个安全问题,同时还涉及伦理、法律和国际规则等相关问题。

  

国家工业信息安全发展研究中心副主任何小龙在人工智能大会上表示,人工智能带来的数据安全问题一方面加速了传统数据安全问题。

  

人工智能大规模的运用使得过度采集数据安全问题进一步加剧。另一方面,也带来了新型数据安全的问题。人工智能的算法对数据具有较强的依赖性,可能会带来数据投毒等新型数据安全挑战。

  

算法、模型和数据构成机器学习的三个基石。腾讯朱雀实验室首席AI安全专家朱季峰在人工智能大会主题论坛上表示,以算法构建过程中上下游的产业链来看,数据的输入、数据的分析、模型的训练、模型的决策、模型的上线部署应用以及模型的改造过程当中都存在相应的风险。

  

例如,在数据输入环节,如果攻击者控制了数据来源,或者攻击者能够对收集数据的设备本身产生安全攻击,最终将通过这个链条影响到算法模型。如通过超声波影响陀螺仪,最终可以使无人机坠落。或者在模型决策阶段,可以通过物理攻击,使得自动驾驶车辆最终视觉识别系统出问题,这样可能影响车辆自动行驶或者对行人的判断。

  

随着人工智能的应用,技术的滥用带来失控风险。验证码验证机制首当其冲。朱季峰介绍,早在2017年,地下的黑产就已经开始用机器学习的方法做二维码识别训练。资料表明,80%以上验证的准确性都可以通过机器学习算法自动完成线上的注册,这就产生了一系列的安全问题。

    

3大系统共筑数据安全防火墙

  

人脸识别技术依托于对海量视图数据的分析,因而数据安全直接影响着人脸识别技术的实战应用。人工智能技术在安防领域的应用是技术寻求落地进程最快、应用最早的训练场。

  

达闼创始人、董事长兼CEO黄晓庆表示,从数据采集到数据处理到数据传输,解决数据网络安全问题有很多手段。从网络和数据角度要完成三个重要的任务——物理隔离、网络隔离、应用端到端的保护。

  

除了技术,我国利用法律武器在数据立法上也做出了探索。

  

今年6月,我国颁布了《数据安全法》,9月1日将开始正式实施。《数据安全法》提出以数据分级分类为核心,搭建数据安全的监管制度,要求强化落实各级数据处理活动主体数据安全保护的义务与责任,为规范数据处理活动,保障数据安全提供法律依据。另外,《个人信息保护法(草案)》也即将进入三审阶段,两项法案相辅相成,推动我国个人信息保护和数据安全治理进入全新阶段。

  

在人工智能大会“大爱无疆·共生”论坛上,清华大学苏世民书院院长薛澜回顾人工智能治理模式历经回应式治理、集中治理和敏捷治理三个阶段。“现在我们进入了相对比较集中的治理模式。该模式明确了国家加强行业监管,促进制度落地的决心,对暴露出来的各种问题采取比较坚决的措施落实监管规则,同时触及到需要进一步研究的问题。”薛澜说。


目前,上海正研究立项公共场所人脸识别分级分类应用规范的地方标准,将成为全国首个立项的人脸识别的地方性标准;开展全市人工智能数据立法调研,规范数据确权,数据共享等重要内容,推动可信人工智能的研究。上海市人大也正在起草《上海市数据条例》。

  

此外,上海市数字证书认证中心、复旦大学计算机学院、上海交通大学电子信息与电气工程学院、移动互联网系统与应用安全国家工程实验室、上海赛博网络安全产业创新研究院共同发起筹建数字身份与数据流通信任技术实验室,该实验室将基于数字信任技术的产学研生态合作,开展隐私计算、区块链、前沿密码等数字信任技术攻关和产业应用,支撑城市数字化转型、数据要素市场构建和网络安全体系建设。

  

记者获悉,上海浦东新区将在数据资源共享、数据交易、数据开发利用等方面进行立法探索;临港新片区将试点开展企业法人数据的跨境流通的安全评估和服务监管,加强个人数据的全生命周期安全监控和防护。


关键字:AI  大数据  人工智能 编辑:王兆楠 引用地址:http://news.eeworld.com.cn/IoT/ic542931.html

上一篇:AIoT时代的新思维
下一篇:贸泽电子携手AVX举办连接器在线直播,打造高可靠连接设计

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

深睿医疗AI医疗影像诊断方案 有效提高了诊断效率
集微网消息,基于深度学习的医学影像诊断方法逐步成熟,越来越多的产品投入到医院的临床试验中,比如眼底病灶的检查、肺结节筛查、肋骨骨折检测、纵隔病灶筛查、乳腺病灶筛查等等。一般而言,每个算法都是针对某一个病种进行设计,比如肺结节的算法只能在肺部的CT上检测肺结节病灶,对于不同源的数据,比如X光片的数据、超声的数据,或不同部位的检测,比如肋骨的检测、纵隔区域的病灶筛查、眼底病灶检测等就需要另外对应的算法。因此,在医院就产生了这样的场景:在同一台AI服务器上,需要部署多种算法。这样的方式无疑增加了软硬件的开销,且不利于算法的轻量化,如何只通过一种应用于AI医疗影像诊断算法调度方法,既能够在有限的GPU、内存等硬件资源的情况下快速的处理来自
发表于 2021-09-03
深睿医疗<font color='red'>AI</font>医疗影像诊断方案 有效提高了诊断效率
基于全志T507核心板设计电子AI后视镜
AI后视镜。它将左侧及右侧分别采用2路长焦、短焦双摄像头,将侧方、侧后方盲区通过高清图像呈现出来,盲区无处遁形。即使我们在夜间开车光线暗淡,后视镜也能亮如白昼。电子AI后视镜终端产品可借助飞凌FETT507-C核心板实现,该核心板基于全志T507四核车规级处理器设计开发,并且通过了汽车AEC-Q100测试,且FETT507-C支持4路AHD高清模拟摄像头采集输入,屏幕最高支持4K显示,满足场景需求。方案拓扑图核心板特点FETT507-C核心板提供AHD模拟高清摄像头输入转换MIPI_CSI方案,可实现4路AHD模拟摄像头信号采集。不管是高清360°环视,还是高清监控,都能轻松实现,得心应手。支持RGB、LVDS、HDMI以及CVBS
发表于 2021-09-01
基于全志T507核心板设计电子<font color='red'>AI</font>后视镜
Iteris推出用于智能十字路口的AI探测传感器 可提升交通安全
据外媒报道,当地时间8月31日,智能移动出行基础设施管理全球领导者Iteris宣布推出Vantage Apex™,这是业内首个集成了人工智能(AI)算法的1080P高清视频与四维(4D)雷达传感器。用于智能十字路口的传感器(图片来源:Iteris)该款雷达传感器基于AI机器学习平台打造,采用Iteris强大的AI视频分析技术、广泛的图像库、高性能GPU/CPU计算、机器学习和中央神经网络算法识别物体,能够对很多不同类型的车辆以及行人和骑行者等弱势道路使用者进行高精度且详细的分类。采用1080p摄像头拍摄的全高清视频内容可以清晰地展示十字路口的交通状况,同时可通过交通管理中心(TMC)或者通过Iteris Video Viewer
发表于 2021-09-01
Iteris推出用于智能十字路口的<font color='red'>AI</font>探测传感器 可提升交通安全
Velodyne Lidar携手MOV.AI为工业和电子商务机器人提供解决方案
Velodyne Lidar携手MOV.AI为工业和电子商务机器人提供自动化解决方案Velodyne Lidar和MOV.AI宣布,两家公司正在合作为机器人制造商提供企业级自动化解决方案,包括测绘、导航、避障和风险规避。MOV.AI Robotics Engine PlatformTM与Velodyne激光雷达传感器相结合,可满足电子商务、物流、制造业和医院等动态协作环境中日益增长的自动化需求。由VelodynePuck™激光雷达传感器驱动的MOV.AI Robotics Engine PlatformTM提供了先进的工具,使自主移动机器人(AMR)制造商和集成商能够应对在不断变化的非结构化环境中安全移动的挑战,如物料搬运和仓库
发表于 2021-09-01
Velodyne Lidar携手MOV.<font color='red'>AI</font>为工业和电子商务机器人提供解决方案
在制造业价值链中RPA真的有机会吗?
UiPath全球制造业负责人Sebastian Seutter制造业实现自动化的动力非常简单。自动化模拟了人类工作,这意味着人类可以专注于制造业价值链的其他领域。自动化首先被引入到制造业的生产领域,以减少员工数量。实体机器人加速了工厂产出,让员工能够专注于高价值任务,如采购、供应链和运输。直到现在,这个系统一直在成功运作。但随着分析技术、人工智能(AI)和软件自动化的引入,制造商现在可以在整个价值链中使用这种先进的技术来提高生产力和促进业务增长。被称为机器人流程自动化(RPA)的软件自动化可以模拟人类在计算机上执行的重复、枯燥的任务,让员工腾出时间从事更有意义的任务。在过去十年中,AI和自动化被用于面向消费者的产品
发表于 2021-08-31
在制造业价值链中RPA真的有机会吗?
逆势净增62%,科大讯飞持续系统性创新兑现AI产业红利
板块的增幅会得到显著提高。  谈及拟分拆医疗板块独立上市,刘庆峰坦言,分拆上市正是为了进一步加大研发投入和人才引进,是奔着成为中国“人工智能+医疗”领域未来的龙头企业去打造的。  智能硬件迎来快速增长,赛道业务多点开花  得益于系统性创新,科大讯飞上半年在智能硬件、智能车载等业务均取得快速增长,为赛道业务注入新的想象空间。  近年来,科大讯飞积极布局智能硬件,依托核心技术创新推出了多元化的产品体系,并且面向消费者初步形成了AI商务办公和AI学习教育两大领域。  办公类智能硬件主要以职场用户为核心,围绕“AI+办公”场景的市场需求及用户痛点,推出了讯飞智能录音笔、智能办公本、翻译机等不同品类的产品,主要解决用户的高效办公问题。  教育类
发表于 2021-08-27
逆势净增62%,科大讯飞持续系统性创新兑现<font color='red'>AI</font>产业红利
小广播
换一换 更多 相关热搜器件
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2021 EEWORLD.com.cn, Inc. All rights reserved