Kinara推出Ara-2边缘AI 处理器,适用于服务器和笔记本

发布者:EEWorld资讯最新更新时间:2023-12-13 来源: EEWORLD关键字:边缘AI 手机看文章 扫描二维码
随时随地手机看文章

Kinara推出Ara-2边缘AI 处理器,为边缘服务器和笔记本电脑提供高性能、经济高效且节能的推理,以运行视频分析、大型语言模型 (LLM) 和其他生成 AI 模型等应用程序。


Ara-2 还非常适合运行传统 AI 模型和具有基于 Transformer 架构的最先进 AI 模型的边缘应用程序。Ara-2 Edge AI 处理器具有体验式增强功能集,性能是第一代 Ara-1 处理器的5-8 倍以上,将实时响应能力与高吞吐量相结合,将其经过验证的延迟优化设计与完美平衡的性能相结合。片上存储器和高片外带宽能够以极低的延迟执行大型模型。


生成式人工智能总体上已经变得非常流行,但大多数相关应用程序都在数据中心的 GPU 上运行,面临着高延迟、高成本和隐私问题。为了克服这些限制并将计算能力真正交到用户手中,Ara-2 通过支持这些生成式 AI 模型使用的数十亿个参数,简化了向边缘的过渡。此外,为了无缝地促进从昂贵的 GPU 迁移到各种 AI 模型,Ara-2 中的计算引擎和相关的软件开发套件 (SDK) 专门设计用于支持高精度量化、动态调节的主机运行时,并直接支持 FP32。


“随着 Ara-2 添加到我们的处理器系列中,我们可以更好地为客户提供性能和成本选项,以满足他们的要求。例如,Ara-1 是智能相机以及具有 2-8 个视频流的边缘 AI 设备的适合方案,而 Ara-2 非常适合处理输入边缘服务器以及笔记本电脑的 16-32+ 视频流,另外还包括高端相机。”Kinara 首席执行官 Ravi Annavajjhala 说道。“Ara-2 通过使用其先进的计算引擎更快地处理更高分辨率的图像,并且精度显着提高,从而实现更好的对象检测、识别和跟踪。作为处理生成式 AI 模型的能力的一个例子,Ara-2 执行Stable Diffution速度可以达到10 秒生成一张图片,LLaMA-7B 的速度可以达到每秒数十个token。”


10 月,Ampere 欢迎 Kinara 加入人工智能平台联盟,其主要目标是降低系统复杂性,促进人工智能更好的协作和开放性,最终提供比 GPU 更好的总体性能以及更高的功耗和成本效率。Ampere 的首席布道师 Sean Varley 表示:“Kinara 的 Ara-2 的性能和功能集是朝着正确方向迈出的一步,有助于我们为行业带来比基于 GPU 的现状更好的人工智能替代方案。”


Ara-2 Edge AI 处理器还提供安全启动、加密内存访问和安全主机接口,使企业 AI 部署具有更高的安全性。Kinara 还通过全面的 SDK 支持 Ara-2,其中包括模型编译器和计算单元调度程序、灵活的量化选项(包括集成的 Kinara 量化器)以及对预量化 PyTorch 和 TFLite 模型的支持、多芯片负载均衡器系统和动态调节的主机。

Ara-2 可用作独立设备、USB 模块、M.2 模块和具有多个 Ara-2 的 PCIe 卡等多种形式。Kinara 将在 CES 上展示 Ara-2 的现场演示。


关键字:边缘AI 引用地址:Kinara推出Ara-2边缘AI 处理器,适用于服务器和笔记本

上一篇:MIKROE推出世界上最大的嵌入式项目平台EmbeddedWiki
下一篇:贸泽和Analog Devices联手发布新电子书

推荐阅读最新更新时间:2024-11-17 07:17

灵至科技完成pre-A轮融资 自主边缘算法助其开辟AI落地市场
致力于人工智能解决方案领域的上海灵至科技有限公司(以下简称“灵至科技”)于近日获得千万级Pre-A轮融资。此次融资由泰颢资本领投,跟投方的信息灵至科技并未向笔者透露。据灵至科技CEO张克军介绍,此次融资将会用于对核心视觉处理模块的量产及扩大产业应用量产的推进以及完善,提供方案将算法与电子机械配套,致力于拓宽方案的应用领域。 签约仪式 灵至科技成立于2016年,坐落于上海市闵行区紫竹科学园区,是一家专注于计算机识别领域的人工智能方案解决商。为客户提供包括软硬件的整体解决方案及后续服务的同时,也与企业展开合作,用先进的计算机视觉识别AI技术为传统产品赋能。 自主边缘算法的视觉识别技术是核心优势 据了解,目前,灵至科技所拥有的基于
[机器人]
英飞凌旗下边缘人工智能企业Imagimob推出Ready Models, 可快速将机器学习模型投入生产
【2024年2月5日,德国慕尼黑讯】 秉承为智能设备上市提供更佳、更快方法的使命,英飞凌科技股份公司旗下的边缘人工智能公司Imagimob推出IMAGIMOB Ready Models 。这套完整的机器学习(ML)解决方案可确保为边缘智能设备提供稳健、高性能和可量产的AI应用方案。Ready Models可快速部署到PSoC™ 6 等现有微控制器(MCU)这类半导体硬件上,而用户无需投入模型开发所需的成本、时间和专业知识。 Imagimob客户服务负责人Sam Al-Attiyah表示:“在目前的边缘AI领域,能够为任何一种解决方案提供现成模型的公司屈指可数。Ready Models建立在我们八年专业知识的基础之上,并在不同环
[工业控制]
英飞凌旗下<font color='red'>边缘</font><font color='red'>人工智能</font>企业Imagimob推出Ready Models, 可快速将机器学习模型投入生产
联发科技推具高速边缘AI运算能力的i700解决方案
集微网消息,2019年7月9日,联发科技今日发布具高速边缘AI运算能力,可快速实现影像识别的AIoT平台i700,进一步提升联发科技在人工智能领域的领导地位。联发科技i700 平台方案能够广泛被应用在智慧城市、智能楼宇和智能制造等领域,其单芯片设计整合了包含CPU、GPU、ISP和AI专核等在内的处理单元,能够协助客户快速推出产品,助力人工智能和物联网的落地融合。 作为联发科技新一代AIoT解决方案,i700平台采用八核架构,集成了两个工作频率为2.2GHz的ARM Cortex-A75处理器与六个工作频率为2.0GHz的Cortex-A55处理器,同时搭载工作频率为970MHz的IMG 9XM-HP8图形处理器。此外, i700
[手机便携]
为什么说AI换脸是在违法的边缘试探?
如果你是一个经常上网的人,相信你一定看过一个“杨幂版黄蓉”的视频——网友利用 AI 换脸技术将杨幂的脸换到94版《射雕英雄传》电视剧中黄蓉的扮演者朱茵脸上,“杨幂版黄蓉”表情生动活泼、非常逼真,一经发布,便在网络上收获了1.2亿次点击和2.8万条讨论。 随手一搜,你会发现类似的视频和图片还不少:比如中国演员徐锦江,和正在热映的漫威电影《复仇者联盟4》中的雷神长相类似,经常被拿来做换脸视频的主角儿,而另一部电影《海王》中的“海王”也因为相似的长相加入“换脸军团”,网友直呼:雷神、海王、徐锦江,傻傻分不清楚! ▲网友制作的“雷神 海王 徐锦江” 吴彦祖换脸倪大红、《回家的诱惑》男女主对换脸、甚至还有女主播在线变
[嵌入式]
为什么说<font color='red'>AI</font>换脸是在违法的<font color='red'>边缘</font>试探?
小广播
最新嵌入式文章
何立民专栏 单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

换一换 更多 相关热搜器件

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved