生态对话 | 爱芯元智:大模型 + AI 新范式为端侧及边缘侧智能发展创造更多价值
点击上方 Arm 社区 关注我们
随着人工智能 (AI) 在各领域内的蓬勃发展,对边缘侧的低延迟、高带宽、隐私性等需求也在日益增长,促使更多的算力逐渐向边缘侧迁移,并实现在诸多领域内的应用。加速释放 AI 在端侧、边缘侧的无限潜力,意味着智能芯片需要承载算法及适配各应用场景。作为 AI 视觉感知芯片研发及基础算力平台企业,爱芯元智为行业探索 AI 及大模型在端侧、边缘侧落地做出了有益尝试,本期 Arm 将与合作伙伴 爱芯元智半导体 展开对话,就视觉大模型在端侧、边缘侧部署的实践进行讨论。
对谈人
Arm 物联网事业部业务拓展副总裁 马健 ( 以下简称:马健)
爱芯元智半导体联合创始人、副总裁 刘建伟 ( 以下简称:刘建伟)
Q1
马健: 随着越来越多的 AI 应用扩展到边缘侧,加速了各领域的智能化发展进程。刘总能否与我们分享 AI 在端侧、边缘侧部署过程中的洞察或市场发展的趋势?
刘建伟: 确实如此,半导体的发展助推人工智能逐渐下沉到边缘侧、端侧,使其从以智慧城市、智慧家庭为代表的固定终端场景,向智能驾驶等移动终端场景转化。而这三大领域的技术需求却是相通的,都同样需要视觉感知和智能计算。而作为支持边缘侧和端侧智能发展的平台型芯片公司,爱芯元智始终关注于此。
近年来,伴随着 AI 的发展,城市、家庭,例如扫地机器人、家用摄像头、智能音箱等,以及驾驶等产品智能化程度和需求都在不断提高,加之芯片算力的不断提升,让边端智能得到普及。据我们观察,当下智慧城市正在进行不断的升级,L2/L2+ 级智能驾驶应用正实现大规模落地,终端设备智能化需求也在扩大化。我们认为,具备感知与计算能力的智能芯片市场有机会迎来更大规模的发展与市场机遇。
Q2
马健: 爱芯元智是大模型与 AI 视觉芯片相结合的先行者之一,并在视觉领域有快速的实践和深厚的见解。能分享贵司在这方面最新的进程,以及与 Arm 的合作如何助力这个进程发展吗?
刘建伟: 我们在旗舰 AI 视觉芯片 AX650N 上率先展示了与大模型的结合,该芯片在边缘部署 Swin Transformer,具有高性能、高精度、易于部署和低功耗特点,是业内首屈一指的 Transformer 落地平台,也实现了 Arm Cortex-A55 集群进行预处理、后处理,与我们的爱芯通元混合精度 NPU 和爱芯智眸 AI-ISP 组成最佳结合。
在产品技术之外,具备丰富资源的 Arm 生态系统,也让我们在产品开发过程中毫无后顾之忧,可以专注于爱芯自己的核心技术,实现持续创新,完成“普惠 AI 造就美好生活”的公司使命!
Q3
马健: 很高兴有更多像爱芯元智这样的本土企业加入到 Arm 生态系统中,为整个生态带来更多的活力和创新动力。最后和我们聊聊明年贵司的发展计划吧?
刘建伟: 爱芯元智的愿景是“AI 普惠化”,为大众提供便利,造就美好生活。明年我们的重点发力方向有二:其一是从整体的产品布局上,继续夯实一体两翼的发展路径,在智慧城市和智能驾驶领域持续拓展,持续满足不同场景下的客户需求;其二,加大生态建设的推进力度,建立“爱芯朋友圈”。希望打造共融共创的生态环境,与更多开发者一道共同优化产品体验,这也正是我们选择加入“Arm 生态系统”的原因。
* 本文为 Arm 原创文章,转载请留言联系获得授权并注明出处。