自去年华为发布麒麟970集成NPU、苹果发布A11 Bionic神经引擎后,终端AI化逐渐成为行业发展的潮流。而不同于苹果推出封闭的AI机器学习框架Core ML,华为将AI应用开发的能力开放给了众多开发者,以便开发者能实现更多的AI终端应用场景。这对促进AI应用的尽快落地至关重要。
日前,在香港Linaro开发者大会上,华为正式发布开源的人工智能开发平台HiKey 970,向广大开发者提供AI应用开发的硬件支持。据悉,HiKey 970不只是开源硬件中的性能强者,还得到华为HiAI平台的支持,可用于深度学习算法、智能机器人、无人驾驶和智慧城市等多个领域,有望带动端侧人工智能迎来全新的发展局面。此外,HiKey 970开发板将于4月中旬面向开发者公开发售。
独立NPU的强大运算能力,让HiKey 970实现高速计算
AI芯片的应用方案主要分为云侧和端侧两类,相比云侧,端侧在隐私保护、通信带宽需求、实时性/低延时、功耗以及体验等众多方面部署人工智能更有优势,因而端侧人工智能已经成为AI产业应用的大趋势。
而端侧的AI应用,需要芯片在计算技术以及算力上实现突破,作为业界首颗集成NPU的麒麟970正具备这样的条件。麒麟970通过加入一个独立的NPU来处理AI运算,同时支持基于NPU的神经网络计算硬件加速,为开发者们提供了强大的AI算力,其运算效率远远超过CPU和GPU。
资料显示,在处理相同的AI运算时,NPU的性能是 CPU 的 25 倍,GPU 的 6.25 倍(25/4),能效比上,NPU 更是达到了 CPU 的 50 倍,GPU 的 6.25 倍(50/8)。另外,在测试中发现,麒麟 970 的 NPU 每分钟可以识别出 2005 张照片,而不使用 NPU 的话则每分钟只能识别 97 张,明显看出独立NPU的算力优势巨大。
"正是基于NPU的强大运算能力,HiKey 970开发板的高效运算集中在NPU中。"华为无线终端芯片产品市场总监周晨表示,"当我们把芯片算力做到位之后,需要有开发者在平台上把AI能力变成用户体验,所以开发者对我们来说格外重要。同时这也是开发者基于麒麟 970在华为旗舰手机之外的创新尝试。"
除了独立的NPU处理单元带来强大的AI运算力之外,HiKey 970开发板在API和系统的集成上也更全面。据了解,HiKey 970开发板外围部分拥有支持4K高清的HDMI 2.0a接口,2个USB3.0接口,2个USB Type-C接口,1个千兆网口,支持CAN V2.0B协议,可以运行AOSP、Ubuntu、Debian等系统;同时还兼容于96Boards CE的标准,在计算机视觉、高性能计算开发、Android标准化程序开发测试等领域可以带来广泛的应用。
HiAI加持,离线模式运算亦高效
作为业界首款开源的人工智能开发板--HiKey 970在强劲性能基础上,还有一大杀手锏,就是华为HiAI平台的加持。
HiAI移动计算平台有五大优势:
1. 多核异构架构,最大化发挥CPU/GPU/ISP/DSP/NPU的功能;
2. 支持离线模式,更适合端侧AI性能的发挥;
3. 支持更丰富算子和快速迭代,将在后续版本中支持算子定制;
4. 支持丰富的前端主流Framework以及上层功能业务API;
5. 支持HiKey 970开发板,降低开发成本。
对AI应用的开发者来说,最为重要的不外乎开发成本、受益和IP保护。为此,华为推出了HiAI移动计算平台并面向开发者进行开放,让第三方应用开发者能够基于HiAI移动计算架构进行APP开发,降低开发成本。同时,华为在IP保护以及加密算法上可以确保对开发模型进行加密保护。
此外,HiAI平台采用多核异构的架构计算可最大化发挥CPU/GPU/ISP/DSP/NPU的功能,其减速功能和能效比大幅优于CPU和GPU,且支持丰富的前端主流Framework、提供丰富的上层功能业务API,通过异构资源灵活调度,来满足开发者加速神经网络模型计算和算子计算。
更重要的是,HiAI离线模式能够有效提高计算效率,同时也更适合HiKey 970端侧AI性能的发挥。离线模型计算时会从文件中加载离线模型,计算时每一次推理只需要把用户数据从DDR到NPU导入导出一次就可以运行,这是一种非常高效的模式。
高校合作已启动,一波AI应用正在路上
在传统手机芯片上,麒麟970创新采用独立的NPU处理单元,让手机的AI性能更强大;如今,华为率先发布首款人工智能开发板--HiKey 970,并在HiAI、SDK等加持下,将人工智能的开发应用瞄向更广的范畴。可以预见,未来将会有更多AI端侧的应用出现,AI时代也随之到来。
谈及HiKey 970的具体规划,周晨透露,HiKey 970是华为发布的第三代开源开发板,目前已经和不少高等院校展开合作,进行更深层的AI应用研发。接下来,通过提供HiKey 970开发板的方式,一方面可以让开发者能够感受到麒麟970的人工智能实力,为华为和相关的开发者提供更多的应用方向;另一方面,借助更多开发者的投入开发,也为芯片升级提供了更多思路和指引方向,从而为更好地满足开发者的需求,为消费者带来更好的体验。
同时,华为也计划推出耀星计划,通过人才培养支持开发创新,加速AI应用的开发人才招募,为AI项目的落地以及推广覆盖做更多准备。
周晨表示,虽然现在的AI应用还没有大范围普及在终端上,但实际上已经有很多合作伙伴在共同努力,很快就会有一大波基于AI的应用和体验出现在手机上,让大家感受到AI应用不仅限于原有领域,还可以覆盖更多领域并带来更多新的体验和能力的提升。相信不久之后会有一波波AI创新和端侧应用的开发涌现,大家不妨拭目以待。
上一篇:中天微技术生态及解决方案赋能边缘计算持续演进
下一篇:端测AI成趋势,华为HiKey970正当时,打造想象力无限的AI应用
推荐阅读最新更新时间:2024-05-03 18:13
- 曝iPhone SE 4首发苹果自研5G基带:明年3月登场
- 曝iPhone 17全系首发3nm A19系列芯片:无缘台积电2nm工艺制程
- 供应链称上游元器件要大降价:国产手机现涨价潮后会主动下调售价吗
- 消息称苹果将拿出近 1 亿美元用于解除印尼 iPhone 16 系列销售禁令
- 消息称塔塔公司收购和硕在印度的唯一一家iPhone工厂,深化与苹果合作
- 苹果遭4000万英国iCloud用户集体诉讼,面临276亿元索赔
- 消息称苹果、三星超薄高密度电池均开发失败,iPhone 17 Air、Galaxy S25 Slim手机“变厚”
- 美光亮相2024年进博会,持续深耕中国市场,引领可持续发展
- Qorvo:创新技术引领下一代移动产业