戴上“白帽子” 人工智能投身网络安全攻防战

2019-04-15来源: 中国科技网关键字:人工智能  网络安全  安防

面对计算机系统和网络的缺陷和漏洞,黑客们找准机会实施攻击,白帽黑客则利用黑客技术来测试网络和系统的性能以判定它们能够承受入侵的强弱程度。短短几年时间,人工智能已进驻多个行业,落地无数场景。其中一些行业和场景已为大家所熟知,还有一些正在进入我们的视野,在网络安全领域,AI“白帽”正成为网络安全工程师的得力助手。

据报道,近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势,其中一个趋势便是用人工智能发现网络威胁。

正在赋能网络安全

“人工智能技术的蓬勃发展,为网络安全攻防带来的,不仅有机遇,也有挑战。”北京理工大学网络攻防对抗技术研究所所长闫怀志接受科技日报记者采访时说。

先说好的一面。360安全研究院邹权臣博士告诉科技日报记者,目前人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。

“例如在恶意代码检测方面,人工智能通过对恶意程序的API调用序列、系统CPU利用率、收发的数据包等信息,自动识别恶意代码的特征,进而判定分类。”邹权臣介绍,相比于传统的基于动静态分析的特征检测、启发式检测技术,人工智能可以大幅度提升检测的准确率。

360安全研究院研究员张德岳介绍,在软件漏洞挖掘方面,采用人工智能技术从漏洞相关的数据中提取经验和知识,并用训练好的模型提高漏洞挖掘的精度和效率,可以缓解当前该领域研究遇到的一些瓶颈问题,具体应用场景包括漏洞程序筛选、源代码漏洞点预测等。

“人工智能在网络安全领域的应用日益广泛,运用人工智能赋能网络空间安全,主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等诸多方面。”闫怀志说,其中包括采用人工神经网络技术,来检测入侵行为、蠕虫病毒等安全风险源;采用专家系统技术,进行安全规划、安全运行中心管理等;此外人工智能方法还有助于网络空间安全环境的治理,比如打击网络诈骗。

具备明显“过人之处”

与传统的应对网络安全的方式相比,人工智能确实展示了其“过人之处”。

在闫怀志看来,人工智能方法在解决人力所不及的安全大数据统计和抽取规律方面具备天然优势,它能够全面提高威胁攻击的识别、响应和反制速度,提升风险防范的预见性和准确性。特别是在异常行为检测等应用场景模糊的非精确识别和匹配方面,更是如此。

“人工智能针对未知威胁和攻击的检测也更出色。因为传统的特征匹配方法对未知威胁几乎无能为力,而人工智能方法有时不需要先验知识,对未知威胁的检测能力较强。”闫怀志说。

不得不说,人工智能系统还具备成本效益优势。闫怀志认为,人工智能可以在第一时间发现和识别预防威胁,并立即启动应急响应,高效的智能检测流程有助于减少人工参与、简化流程、降低成本、减小损失。

“传统的应对网络安全的方法依赖于人工硬编码定义、提取特征的方式完成相关任务,而人工智能可以直接对原始数据进行训练,从大量的数据中提取特征,自动完成分类判定的工作。”张德岳说,如此一来后者既可以提高网络安全中预测、防范、检测、销控等各个风险环节的自动化和智能化程度,又能提升响应速度和判定的准确率。

不能靠它包打天下

“虽然人工智能搅动了网络安全领域的一池春水,但是应该理性看待人工智能在应对网络安全方面的优缺点,不能指望全靠人工智能来包打天下。”闫怀志说,人工智能在应对网络安全问题时,也有较强的局限性。

邹权臣分析,这一方面受限于人工智能算法本身的能力。因为传统的机器学习技术依赖特征提取,而算法的效果和性能又依赖识别和提取特征的准确性。深度学习具有在高维数据中自动提取特征的能力,同时面临着持续学习、数据饥饿、可解释性等问题。

“另一方面机器学习、特别是深度学习过分依赖数据,但在恶意代码检测、软件漏洞挖掘等领域,目前仍然存在数据收集困难的问题,缺少较好的数据集用于训练,影响对相关领域的研究。”邹权臣补充说,另外人工智能严重依赖于耗费计算资源,复杂的深度学习网络需要同时计算成百上千万次的计算,需要强大的人工智能芯片计算力的支撑。

闫怀志则从不同方面总结了人工智能的不足。比如,易于忽视或者抛弃人类专家在网络安全领域的知识和经验积累,对网络安全的复杂应用场景考虑不足,对于已知威胁的检测效率远低于传统的精确特征识别方法等。

“使用神经网络和深度学习等算法,能够较好地识别出未知攻击威胁风险,达到‘知其然’的目的,但是这些算法通常无法揭示产生这种安全风险的基本机理,也就是‘不知其所以然’,从而为从源头防御这种攻击风险带来极大障碍。”闫怀志说。

脆弱面带来安全风险

人工智能在应对网络安全问题时,有时甚至会展现出脆弱的一面。

“一个真实环境中的人工智能系统,会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。”张德岳告诉科技日报记者。

张德岳举例说,在数据安全方面,在数据收集与标注时出现错误或注入恶意数据,将导致数据污染攻击;在模型/算法安全方面,针对人工智能算法存在黑盒和白盒对抗样本攻击,可导致识别系统出现混乱;在实现安全方面,除了人工智能系统本身的代码实现,其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞,也都可能导致严重安全问题。

“人工智能对现有网络安全格局的影响,离不开算法、数据和计算能力3个方面,其容易遭受攻击的弱点也来自于此。”闫怀志总结说。

对于防范人工智能的脆弱性所带来的安全风险,闫怀志指出:首先要从体系架构、系统算法容错容侵设计、漏洞检测和修复、安全配置等方面来增强人工智能系统自身的安全性;其次,要用其所长,尽量减小其暴露给外界的潜在攻击面;最后要构建网络空间安全综合防御体系,从安全技术和安全管理等层面来协同防范安全攻击,间接减缓攻击者直接针对人工智能系统发起攻击以及攻击成功的可能性。

来自360安全研究院的专家也给出多个建议,其中包括:在数据获取过程中,要加强对数据来源的控制与过滤,在一定程度上保证数据安全可靠;在数据传输过程中,要使用更加安全的传输协议与加密算法;在人工智能系统的实现中,要保证代码质量并进行完善的测试,此外还要及时更新或修补框架或依赖库中存在的漏洞等。


关键字:人工智能  网络安全  安防

编辑:鲁迪 引用地址:http://news.eeworld.com.cn/afdz/2019/ic-news041512592.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:用它给家里来一场清洁革命!创新洗地机器人,深度清洁污渍
下一篇:巴黎不哭!AI数字重建让圣母院永生

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

2019 Arm人工智能开发者全球峰会圆满举办

2019 第二届Arm人工智能开发者全球峰会今天在上海圆满举办。今年的峰会以“共塑AI精彩未来” (Together, making AI different) 为主题,由上海市徐汇区政府指导,Arm中国及Arm人工智能生态联盟 (AIEC) 联合主办,并得到了多家全球及中国人工智能产业领导企业的大力支持。今年的峰会共吸引了超过一千名国内人工智能软硬件开发者的踊跃报名,再次刷新了第一届峰会创下的Arm中国历年活动报名人数之最的记录。 在今天上午举行的峰会主论坛上,来自Arm中国、Google、百度、微软-仪电人工智能创新院的技术专家和与会开发者分享了各自团队在AI开发领域的最新成就,为开发者展示了Arm人工智能
发表于 2019-07-19

“模拟大脑”再迈进一大步:英特尔神经拟态系统问世

正在底特律举办的美国国防部高级研究计划局(DARPA)电子复兴峰会上,英特尔公司展示了其最新的可模拟800多万个神经元的Pohoiki Beach芯片系统。该神经拟态系统的问世,预示着人类向“模拟大脑”这一目标迈出了一大步。 该全新神经拟态系统包含多达64颗Loihi芯片,集成了1320亿个晶体管,总面积3840平方毫米,拥有800多万个“神经元”(相当于某些小型啮齿动物的大脑)和80亿个“突触”。英特尔介绍说,该芯片系统在人工智能任务中的执行速度要比传统CPU快一千倍,能效可提高一万倍。新形态芯片可在图像识别、自动驾驶和自动化机器人等方面带来巨大技术提升。 与人脑中的神经元类似,Loihi拥有数字“轴突”用于
发表于 2019-07-19

吴军捕风捉影式的“口嗨”将三家科技巨头推至舆论的风口

”,届时信息流广告和搜索广告总额有望达到现在的两倍。对于用户来说,利用算法+人工智能推荐的信息流模式,本质是一种被动搜索,以百度的算法和数据基础想做并不难,事实确实如此,据QuestMobile数据,2018年(手机)百度成为资讯信息流媒介平台日均活跃用户数最多的App。 我们再看百度的“诗与远方”: 从长远来看,没有一家企业是永恒存在的,任何企业都会经历一个从“起始期”、“成长期”到“成熟期”、“衰败期”的生命周期,其运动轨迹被称为“第一曲线”。为了能够实现持续发展,避免衰败,企业需要在高峰到来之前,开辟一条新道路,这条道路发展的轨迹被称为“第二曲线”。这就是第二曲线理论。 5月17日发布的的Q1财报,已经
发表于 2019-07-19

探访宝马的生产车间,人工智能到底有多强大?

人工智能(ai)技术在汽车生产中的应用一直呈上升趋势,自2018年开始,宝马集团也一直在生产中利用ai技术。 在生产中,人工智能技术能够评估正在生产的汽车零部件图像,并在几毫秒的时间内,将其与同序列生产中的数百幅其他零件图像进行比较。从而,ai可以实时确定零部件与标准零部件的偏差,并可检查是否所有需要的部件都已安装,以及是否安装在正确的位置。  自动图像识别 该创新技术非常快、可靠,最重要的是易于使用。宝马集团生产部门创新、数字化和数据分析主管christian patron表示:“人工智能技术提供了巨大的潜力,帮助我们保持高质量标准的同时,还能减轻员工重复性工作的负担。” 在宝马
发表于 2019-07-17
探访宝马的生产车间,人工智能到底有多强大?

Gartner预计企业明年人工智能项目数将倍增

国际研究暨顾问机构Gartner最新调查显示,目前使用人工智能(AI)或机器学习(ML)的企业平均正进行4个相关项目,但受访者预期未来12个月内将新增6件,而到了2022年,这些企业预期手上平均会有35件进行中的人工智能或机器学习项目;另外59%的受访者表示目前已部署人工智能技术。Gartner研究副总裁Jim Hare表示,根据调查发现,企业今年采用人工智能的速度大幅成长,人工智能项目数量也随之上涨,代表企业可能需要进行内部重组,确保人工智能项目具备适当的人力和资金,最佳做法就是成立人工智能卓越中心(Center of Excellence),尽可能以最完善的方式分派技术、取得资金、设定优先级和分享最佳实务经验。Gartner
发表于 2019-07-17

Gartner:企业机构预计在明年增加一倍的人工智能项目

全球领先的信息技术研究和顾问公司Gartner于近期开展的一项调查显示,目前使用人工智能(AI)或机器学习(ML)的企业机构中,平均有四个己部署的人工智能/机器学习项目。其中59%的受访者表示,他们已经部署了人工智能。 Gartner于2018年12月以在线调查的方式对106位Gartner研究圈(Gartner Research Circle)成员开展了“人工智能与机器学习发展战略”研究。Gartner研究圈是一个由Gartner管理的专家组,该小组由IT和IT/业务专业人士组成。“人工智能与机器学习发展战略”研究的参与者需要具备当前或计划在其所在企业机构部署的机器学习或人工智能的业务和技术知识。 
发表于 2019-07-16
Gartner:企业机构预计在明年增加一倍的人工智能项目

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2019 EEWORLD.com.cn, Inc. All rights reserved