Icbank半导体行业观察

文章数:25239 被阅读:103424336

账号入驻

瑞芯微AI平台迎来三大重磅更新,端侧AI技术落地有望加速

最新更新时间:2019-12-23
    阅读数:

近年来,人工智能浪潮在全球正在热烈上演,巨大的市场潜力吸引了众多的厂商参与其中。尤其是芯片方面,因为市场需求迫切,这就催生了一系列的AI芯片公司,无论是传统芯片厂,还是新兴团队,都争先恐后涌入其中,瑞芯微则是本土AI芯片的一个典型代表。


继2018年年初推出首款AI芯片RK3399 pro取得不错成绩后,瑞芯微在今年年初推出RK1808及基于其打造的计算棒也都先后获得了市场的一致好评。公司也通过这些高性能的硬件、友善的软件和生态帮助开发者在商场超市、公共场所和智能家居等多个场景落地。但因为人工智能还处于高速发展阶段,为此瑞芯微也持续不断地更新其产品和服务,为开发者带来更好的体验。


日前,瑞芯微方面告诉记者 ,公司正式对旗下AI平台进行了三大重要升级,助力端侧AI应用。而这三个升级包括了:开发工具支持GUI图形交互界面、原生支持MXNet和PyTorch、支持Docker部署。


首先,交互方式更加友好,RKNN-Toolkit新版本将支持图形界面


瑞芯微表示,经过多个版本的不断迭代完善,RKNN-Toolkit已日益成熟。而公司即将推出的新版将加入图形交互界面(GUI),可支持开发者仅通过鼠标点击即可完成模型的转换、量化、性能分析、内存耗费分析等任务,快速完成AI模型在端侧部署的评估和转换工作。


特别是对于混合量化等较为复杂的任务,相比于过去的命令行交互,通过图形界面可大幅提高效率并降低操作错误的概率。另外,新版RKNN-Toolkit的图形界面同样在Linux/Mac OSX/Windows三个平台上均可运行。



其次,模型转化更加简便,RKNN-Toolkit将对MXNet和PyTorch提供原生支持


在过去RKNN-Toolkit通过ONNX来完成MXNet和PyTorch等模型的支持,开发者需要先将模型转换为ONNX格式,再进一步转换为RKNN模型,这一过程较为繁琐,并且提高了引入问题的概率使得最终转换失败。


MXNet及PyTorch发展非常迅速,普及度快速提高, RKNN-Toolkit新版本将原生支持MXNet及PyTorch模型的转换,在端侧AI平台的框架和模型支持覆盖度上继续保持领先。


第三,模型推理性能更加稳定,瑞芯微 AI平台支持通过Docker快速部署端侧AI应用


随着端侧设备数量的成倍增长,需要以更具可扩展性的方式部署端侧AI应用软件。Docker容器技术是业界广泛通行的解决这一挑战的有力工具。


RK1808平台系统将提供对Docker的支持,通过硬件抽象层,在容器中仍可调用NPU的强劲算力,经测试,容器中的AI模型推理性能几乎没有损失。



从瑞芯微方面的介绍我们可以看到,通过上述更新,开发者基于瑞芯微Rockchip AI平台的产品开发、部署、维护将较之前更为迅捷。而瑞芯微方面也强调,公司将继续与广大开发者共同努力,加速AI在各类场景的落地,在这股AI大潮中,带给开发者和消费者更好的体验。

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。


今天是《半导体行业观察》为您分享的第2167期内容,欢迎关注。

推荐阅读

半导体行业观察

半导体第一垂直媒体

实时 专业 原创 深度


识别二维码,回复下方关键词,阅读更多

晶圆|AI台积电|封测亚马逊RISC-V|思科|存储



回复 投稿,看《如何成为“半导体行业观察”的一员 》

回复 搜索,还能轻松找到其他你感兴趣的文章!

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved