论Kirin 970的人工智能NPU的工作原理

发布者:Serene123最新更新时间:2017-12-26 来源: 21IC中国电子网关键字:Kirin  NPU  人工智能 手机看文章 扫描二维码
随时随地手机看文章

日前,美国知名科技媒体Android Authority主笔Gary Sims对麒麟970进行了深度解读,讲述了麒麟970的人工智能NPU的工作原理,对芯片设计的深远影响,以及为用户使用场景带来的跨越式体验。


 

“神经网络(Neural Networks)”和“机器学习(Machine Learning)”是近两年移动处理器领域最流行的两个词。华为麒麟970的NPU(神经网络处理器)、Google Pixel 2内置的IPU(图像处理器),以及苹果A11 Bionic,都是实现上述功能特性的专用硬件解决方案。


既然华为、Google和苹果都在都在探索神经引擎处理器,你可能以为机器学习需要特定的硬件。其实不然,神经网络可以在任何形式的处理器上运行,从微处理器到CPU、GPU甚至是DSP。


所以,问题的根本不在于处理器是否能利用神经神经网络和机器学习,而在于它到底有多快,能提升多少效率。


如果时间倒退回30年前,当年的桌面处理器是没有的FPU(浮点运算单元)芯片的,在486之后,Intel把FPU集成到了CPU内部,浮点运算性能大幅提升。而在很多实例计算中,全都是浮点数运算。这样以来,有FPU和没有FPU,运算效率天差之别。


而如今,移动处理器中的NPU也是类似的情况。你可能觉得我们并不需要NPU,就能使用神经网络,但实时情况是,华为正在用事实案例证明,当遇到实时处理运算的情况,NPU是必须的。


 

简单来说,“神经网络”可以理解为“机器学习”中“教”一台机器区别分辨不同“事物”的一系列技术中的一种。上述“事物”可以是一张照片、一个单词甚至是一种动物的声音,诸如此类。


“神经网络”由很多“神经元”组成,这些“神经元”可以接收输入信号,然后通过网络再向外传播信号,这取决于输入的强度和自身阈值。


举个简单的例子,神经网络正在监测一组灯其中一个的开关,但在网络中,这些灯的状态只能0或者1来表达,但不同的灯可能会出现一样的开关状态。


那么问题来了,神经网络怎么知道是该输出0还是该输出1呢?没有规则或者程序能告诉神经网络,输出我们想得到的逻辑答案。


唯一的方面就是对神经网络进行训练。大量的“样本”和预期结果一起被注入到神经网络中,各种各样的阈值反复微调,不断产生接近预期的结果。这个阶段可以称为“训练阶段”。


这听起来很简单,但实际上相当复杂,尤其是遇到语言、图像这种复杂样本的时候。一旦训练达成,神经网络会自动学会输出预期结果,即便输入的“样本”之前从来没有见过。

神经网络训练成功后,本质上就成了一种静态神经网络模型,它就能应用在数以百万计的设备上用于推理,在CPU、GPU甚至是DSP上运行。这个阶段可以称为“推理阶段”。


Gary Sims指出,“推理阶段”的难度要低于“训练阶段”,而这正是NPU发挥专长的地方。


所以,华为麒麟970最大的不同是,专门设置了NPU硬件芯片,它在处理静态神经网络模型方面有得天独厚的优势,不仅更快,还更有效率。事实上,NPU甚至能以17-33fps实时处理智能手机摄像头拍摄的“直播”视频。


从架构来看,麒麟970像是一台“发电站”,内置8颗CPU和12颗GPU,另有移动网络连接以及多媒体处理模块,晶体管规模达到了史无前例的55亿颗。据华为透露,NPU大约内含1.5亿晶体管,不到整个芯片的3%。


这对于一款移动处理器来说尤为重要。首先,NPU的加入不会明显增大处理器的尺寸、成本,这就意味着,NPU不仅能放入旗舰手机,一些中端手机也能适用。在未来5年,NPU将对Soc设计产生深远影响。


其次是功耗和效率。NPU并非“电老虎”会牺牲手机的续航,相反它能高效的帮CPU承担大量推理运算的任务,反而能节省不少功耗。


在最后的总结中,Gary Sims表示,如果华为能吸引更多第三方App开发者使用NPU,其前景不可限量。想象一下,当App在使用图像、声音、语音识别的时候,全部都能本地处理,不再需要网络连接或者云服务,App的使用体验将大大提升和加强。

关键字:Kirin  NPU  人工智能 引用地址:论Kirin 970的人工智能NPU的工作原理

上一篇:三星也将自研GPU
下一篇:CEC咸阳8.6代液晶面板生产线项目点亮投产

推荐阅读最新更新时间:2024-05-03 02:12

不只会下棋,AlphaGo人工智能开始操刀做手术?
横扫围棋界后, 人工智能 企业 DeepMind 近日又在学术期刊《Nature Medcine》发表一项研究。“这项研究或将改变重度眼疾的治疗方式。” DeepMind官网自信地写道。   这篇题为《可在临床上用于视网膜疾病诊断和转诊的深度学习》的论文称,系统能诊断包括糖尿病眼病、黄斑病变等50多种眼科疾病,准确度超过专家,并且可推荐相应的诊疗措施。   DeepMind 已经成为 AI 领域的明星,其将 机器学习 和系统神经科学的前沿技术相结合,建立强大的通用学习算法,其开发的 AlphaGo 打败了世界最顶尖的围棋手。此前有外媒报道,DeepMind 欲将其算法应用到医疗保健行业,包括计划在 5年内使用机器学习处理英国国家医
[嵌入式]
人工智能风口已至,哪些企业谁将占领先机?
中国已经成为当今世界最具创新活力的市场,特别是科创板的推出,物联网、 人工智能 和生物科技为核心的创新企业发展释放潜力,并有望得到快速扩张。各界积极备战因新经济所释放的资本红利,在资本市场以5G、AI、IoT和生物科技的创新代表性企业,将成为受到市场青睐和追捧。 在全球市场,以AI+IoT为核心的转型企业得到迅猛发展。特别在AI+IoT等新技术融合下,物联网高级顾问杨剑勇指出,围绕机器视觉、自动驾驶、高端制造、AI芯片和生物科技创新企业迎来前所未有机遇,涌现出包括优必选、图灵机器人、旷视科技、欧瑞博、地平线、思必驰、碳云智能与海尔生物医疗在内等创新和新业态企业,利用AI+IoT助推机器人和智能家居进入千家万户,同时助推
[嵌入式]
<font color='red'>人工智能</font>风口已至,哪些企业谁将占领先机?
多项人工智能政策有望年底亮相:5G等领域加速制定
《经济参考报》记者从工信部、发改委等多个权威渠道获悉,根据《国家信息化发展战略纲要》,我国将加速完善信息产业政策体系,根据产业发展趋势和市场需求,制定和出台集成电路、人工智能、物联网、5G等多个细分领域的产业政策,在确保上述产业前沿领域保持快速健康发展的基础上,进一步促进我国信息产业整体做大做强。据悉,多项人工智能领域的相关政策,有望于今年年底至明年年初正式亮相。 目前,我国信息产业政策体系已初步成型。从2015年开始,我国先后出台了《中国制造2025》、《积极推进“互联网+”行动指导意见》以及《关于深化制造业与互联网融合发展的指导意见》,形成了制造强国战略政策体系。上述三大文件都对我国信息产业中长期发展作出详细规划,并指出信息产
[安防电子]
百度回应成立AI芯片公司:市场传闻没有什么可评论的
36kr消息,百度回应成立AI芯片公司一事称,对于市场传闻,我们没有什么能评论的。 知情人士向CNBC透露,百度正就为成立一家人工智能半导体企业筹集资金。 知情人士称,百度的芯片公司为其子公司,谷歌可能是大股东。GGV和IDG capital两家风险投资公司参与了投资百度芯片公司的早期谈判。这两家公司在中国都有大量投资。 目前,百度拥有一个内部芯片部门,帮助开发昆仑芯片。消息人士表示,独立的芯片公司有望帮助百度更好地将其技术商业化。
[手机便携]
AI技术的到来,北京需要哪些?华为云右将能够提供什么?
北京作为首都,最吸引人的地方就是其深厚历史人文气质的积淀,和不断迸发着的产业活力。这座坐落在中国北方的都城,除了拥有胡同、白塔和鸽哨以外,还拥有全国高度集中的高校与科研机构,源源迸发出全新的科技活力。 两者结合,构成了古老又新锐、既保守又开放的独特气质。而在AI带来全社会产业升级契机的今天,独特的北京又被填上了一笔不同的颜色:今天的北京,是中国AI公司最多的地方、关于AI技术与应用投资额最多的地方、AI人才最集中的地方,同时也是产业AI需求冠绝全国的地方——换句话说,北京是一座欢迎AI的城市。 这样一座城市,勾勒出了颜色最鲜明的中国AI城市图谱,而北京进行产业智能化升级的经验与成败,也直接关乎未来中国AI产业的脚步方
[嵌入式]
<font color='red'>AI</font>技术的到来,北京需要哪些?华为云右将能够提供什么?
怎样看待人工智能在医院的发展?
病人进入医院,在大厅里可以通过机器人来咨询要挂哪个科;医生在跟病人的问诊过程中,系统可以自动将问诊语音转化为文字,并通过自然语言理解技术转化为结构化的电子病历;同时,人工智能系统将给出医生诊断和治疗的建议;病人去做影像检查,人工智能系统会辅助医生阅片。下面就随医疗电子小编一起来了解一下相关内容吧。 这是科大讯飞构建的智慧医疗医疗场景,其中智能语音电子病历、机器人、移动APP以及影像辅助诊断等产品已经在全国数十家医院落地。 2017年8月20日,由科大讯飞、安徽省立医院联手打造的“安徽省立智慧医院(人工智能辅助诊疗中心)”(下简称“辅助诊疗中心”)在合肥正式挂牌运行,旨在为基层特别是边远不发达地区的医务人员提供高水平的诊断辅助,提
[医疗电子]
怎样看待<font color='red'>人工智能</font>在医院的发展?
十个问题,带你了解瑞萨电子在AI/ML上的决心
人工智能 (AI) 和机器学习(ML)对于提高系统的计算能力,以解决自动化和以数据为中心的世界的新兴需求至关重要。随着对效率、延迟以及成本的考虑,市场开始尝试采用越来越多的边缘计算(Edge Computing)作为嵌入式系统AI/ML的首选方案。 作为全球主要的MCU和MPU供应商,瑞萨电子的 AI 解决方案通过使用在终端具有智能数据处理能力的嵌入式 AI 技术,来增强以信息和操作技术 (IT/OT) 为基础的系统和产品。 日前,EEWORLD专访了瑞萨电子物联网及基础设施事业本部MCU事业发展部高级总监Mohammed Dogar,就瑞萨在AI/ML上的进展,以及工业和物联网产业引入AI的痛点和难点进行了探讨。 瑞
[嵌入式]
十个问题,带你了解瑞萨电子在<font color='red'>AI</font>/ML上的决心
互联网品牌基本淘汰 2019年彩电业应以质取胜
12月17日,由中国电子商会(CECC)、中国电子技术标准化研究院(CESI)共同主办的“2018年(第十四届)中国平板 电视 行业大会”在北京召开。CESI联合海信、长虹、TCL、索尼、三星、创维、夏普、海尔、飞利浦、坚果、峰米、京东、腾讯视频等分别发布《激光电视4K超高清显示认证技术规范》、《人工 智能电视 认证技术规范》两大标准,进一步强化激光电视、人工智能电视产品和市场规范。   针对中国彩电消费市场走势,中国电子商会发布《2018年中国电视消费及2019年趋势预测报告》(以下简称“报告”)指出:2018全年中国市场彩电预计销量将达4500万台,预测2019年整体销量将不容客观,或出现下滑3-5个百分点的可能,但OLED
[家用电子]
小广播
最新嵌入式文章
何立民专栏 单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

换一换 更多 相关热搜器件
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved