Arm社区

文章数:282 被阅读:641628

账号入驻

生态对话 | 爱芯元智:大模型 + AI 新范式为端侧及边缘侧智能发展创造更多价值

最新更新时间:2023-11-16
    阅读数:

点击上方 Arm 社区 关注我们

随着人工智能 (AI) 在各领域内的蓬勃发展,对边缘侧的低延迟、高带宽、隐私性等需求也在日益增长,促使更多的算力逐渐向边缘侧迁移,并实现在诸多领域内的应用。加速释放 AI 在端侧、边缘侧的无限潜力,意味着智能芯片需要承载算法及适配各应用场景。作为 AI 视觉感知芯片研发及基础算力平台企业,爱芯元智为行业探索 AI 及大模型在端侧、边缘侧落地做出了有益尝试,本期 Arm 将与合作伙伴 爱芯元智半导体 展开对话,就视觉大模型在端侧、边缘侧部署的实践进行讨论。

对谈人

Arm 物联网事业部业务拓展副总裁 马健 以下简称:马健)

爱芯元智半导体联合创始人、副总裁 刘建伟 以下简称:刘建伟)


Q1

马健: 随着越来越多的 AI 应用扩展到边缘侧,加速了各领域的智能化发展进程。刘总能否与我们分享 AI 在端侧、边缘侧部署过程中的洞察或市场发展的趋势?

刘建伟: 确实如此,半导体的发展助推人工智能逐渐下沉到边缘侧、端侧,使其从以智慧城市、智慧家庭为代表的固定终端场景,向智能驾驶等移动终端场景转化。而这三大领域的技术需求却是相通的,都同样需要视觉感知和智能计算。而作为支持边缘侧和端侧智能发展的平台型芯片公司,爱芯元智始终关注于此。

近年来,伴随着 AI 的发展,城市、家庭,例如扫地机器人、家用摄像头、智能音箱等,以及驾驶等产品智能化程度和需求都在不断提高,加之芯片算力的不断提升,让边端智能得到普及。据我们观察,当下智慧城市正在进行不断的升级,L2/L2+ 级智能驾驶应用正实现大规模落地,终端设备智能化需求也在扩大化。我们认为,具备感知与计算能力的智能芯片市场有机会迎来更大规模的发展与市场机遇。

Q2

马健: 爱芯元智是大模型与 AI 视觉芯片相结合的先行者之一,并在视觉领域有快速的实践和深厚的见解。能分享贵司在这方面最新的进程,以及与 Arm 的合作如何助力这个进程发展吗?

刘建伟: 我们在旗舰 AI 视觉芯片 AX650N 上率先展示了与大模型的结合,该芯片在边缘部署 Swin Transformer,具有高性能、高精度、易于部署和低功耗特点,是业内首屈一指的 Transformer 落地平台,也实现了 Arm Cortex-A55 集群进行预处理、后处理,与我们的爱芯通元混合精度 NPU 和爱芯智眸 AI-ISP 组成最佳结合。

在智能视觉领域,我们很高兴的看到,Arm 今年为本土客户推出了全新的智能视觉参考设计,进一步满足了多场景下的差异化处理需求,并提高了机器学习与设备处理工作时的负载表现,帮助加速智能视觉产品的创新落地。我们的爱芯智眸 AI-ISP 是将深度学习算法与传统的 ISP 处理单元相结合,以实现更优质的画质效果。而爱芯通元 NPU 作为 AI 计算的通用处理器,以算子为原子指令集进行设计,能够在有限的成本内为 AI 应用提供澎湃的算力。因此,我们也期待未来在 IP 的集成上能与 Arm 强强合作,为智能视觉应用解决方案激发出更多创新的火花。

在产品技术之外,具备丰富资源的 Arm 生态系统,也让我们在产品开发过程中毫无后顾之忧,可以专注于爱芯自己的核心技术,实现持续创新,完成“普惠 AI 造就美好生活”的公司使命!

Q3

马健: 很高兴有更多像爱芯元智这样的本土企业加入到 Arm 生态系统中,为整个生态带来更多的活力和创新动力。最后和我们聊聊明年贵司的发展计划吧?

刘建伟: 爱芯元智的愿景是“AI 普惠化”,为大众提供便利,造就美好生活。明年我们的重点发力方向有二:其一是从整体的产品布局上,继续夯实一体两翼的发展路径,在智慧城市和智能驾驶领域持续拓展,持续满足不同场景下的客户需求;其二,加大生态建设的推进力度,建立“爱芯朋友圈”。希望打造共融共创的生态环境,与更多开发者一道共同优化产品体验,这也正是我们选择加入“Arm 生态系统”的原因。

* 本文为 Arm 原创文章,转载请留言联系获得授权并注明出处。



最新有关Arm社区的文章

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区中关村大街18号B座15层1530室 电话:(010)82350740 邮编:100190

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved