软件业者为了强化人工智能算法的执行效率,纷纷跨足硬件设计。 继Google、Facebook之后,微软(Microsoft)近日也发表了自家的Project Brainwave平台。 该平台以英特尔(Intel)提供的Stratix 10现场可编程门阵列(FPGA)为基础,除了内建深度神经网络(DNN)加速引擎外,在软件堆栈方面,还可支持Google的Tensorflow、微软自家的Cognitive Toolkit等深度学习框架。
微软杰出工程师Doug Burger指出,在硬件层面,Project Brainwave是一个以FPGA为基础的高性能DNN处理平台。 微软已经将高性能FPGA应用在自家的数据中心多年,让该公司可以为DNN运算提供硬件微服务(Hardware Microservices),亦即将DNN映像到远程的大量FPGA上,透过呼叫服务器的方式来执行。 这个系统架构对于降低延迟、提高数据吞吐量有很大的帮助,因为外部输入的需求不须透过CPU处理,而FPGA可以用很快的速度来响应外部提出的需求。
其次,Project Brainwave的FPGA上合成(Synthesize)了软式DNN处理单元(DPU)。 虽然许多公司都采取硬件线路的方式来实作DPU,以便实现最高的运算效能,但这种方法也令DNN的灵活性受到限制,例如数据型态、运算符(Operator)的选择,都会受限于芯片本身的设计。 软式DNN则没有这个问题,其可支持的数据型态是在合成的时候决定的。 Project Brainwave所使用的FPGA结合了硬件数字讯号处理单元与可合成的逻辑,提供比纯ASIC更大量、更优化的功能单元。 这个设计架构有两大好处,一是允许高度客制化、窄精度的数据型态,可提高性能又不损失模型的精准性,二是可以在几周内支持新的算法。 整体来说,以FPGA为基础的DPU,在性能上并不逊于以硬件实作的DPU,甚至有过之而无不及。
第三,Project Brainwave搭载了可支持众多主流深度学习框架的软件堆栈,目前已可支持微软自家的Cognitive Toolkit以及Google的Tensorflow,未来还将支持更多深度学习框架。
微软的Project Brainwave是以英特尔的14奈米Stratix 10 FPGA作为核心芯片。
上一篇:MaximMAXQ1061 DeepCover控制器在贸泽开售
下一篇:ADAS芯片可靠度攸关生死 纳米制程大举采用仿真技术
推荐阅读最新更新时间:2023-10-12 23:51
- 意法半导体披露 2027-2028 年财务模型及2030年目标实现路径
- 创实技术electronica 2024首秀:加速国内分销商海外拓展之路
- 欧洲三大芯片巨头,重新审视供应链
- 一场IC设计业盛宴!10场论坛 200位演讲嘉宾,300+展商亮相2万平米专业展会!
- 富昌电子于杭州举办技术日活动,聚焦新能源“芯”机遇
- 消息称铠侠最快明天获上市批准,市值有望达 7500 亿日元
- 美国政府敲定对格芯 15 亿美元《CHIPS》法案补贴,支持后者提升在美产能
- SK 海力士宣布量产全球最高的 321 层 1Tb TLC 4D NAND 闪存,计划 2025 上半年对外出货
- 三星电子 NRD-K 半导体研发综合体进机,将导入 ASML High NA EUV 光刻设备