Icbank半导体行业观察

文章数:18678 被阅读:73583683

账号入驻

模拟 or 数字电路,机器学习如何选择?

最新更新时间:2021-08-31 00:09
    阅读数:

来源:本文由 公众号 半导体行业观察(ID:icbank)翻译自「eenews」,作者Avi Baum,谢谢。 


近年来,我们目睹了“深度学习”的兴起,这一领域试图实现类似于人类行为的推理和智能水平。


人工神经网络(ANN)精炼出的数学公式是相对于能够有效运行这些网络的物理设备的开发而开发的。人们经常拿计算机和人类大脑进行比较,它们的底层结构截然不同。神经网络的一个明显特性是它们的蜂窝状特性。因此,基本的“cell”结构是探索的方面之一,一个显而易见的原因是它多次重复。因此,效率的重要性。将是本文讨论的重点。


ANN理论指引


人工神经网络的基础是一大堆称为神经元的元素,通常以紧密相连的束排列。简而言之,神经元是一种特征在于具有多个输入和单个输出的单元。单元的输出是输入的直接函数,每个输入在对输出的总体贡献中得到不同的“关注”,这种“关注”水平通常被称为权重。此外,输出可能带有一些阈值效应,只有当神经元超过阈值(也称为“已触发”)时才会产生响应。连接到“射击”(firing)神经元的线下神经元的相关输入将被“激发”,并且该过程将在整个网络中传输以达到最终输出。


图1 :神经元生物学灵感(左)及其人工,概念等效图(右)。树突作为输入; 轴突是输出,聚合发生在“细胞”内。


在定义等效模型时,最常见的方法是加权求和,并将非线性应用于输出。这种方法在以简单而有意义的方式捕捉概念的本质方面非常有用。然而,在尝试捕获生物行为的更精细方面时,要寻求更复杂的模型。这些反映了可能导致更完整的神经元描述的其他属性,并且出于实际原因,可以提供克服基本表示法固有的一些性能障碍的实现替代方案。


模拟神经元行为的选项涉及时域,频域和幅域表示。这些选项可以用闭合的数学形式很容易地表达,如下所述。


直接的离散模型,将神经元表示为输入的加权和(图2a); 脉冲序列,其中脉冲序列代表活动,它们的时间速率决定激发水平 - 这是表示人体中神经细胞活动的最接近表示的图形(图2b)和连续表示。


图2:a)离散(b)脉冲和(c)连续模型的数学表示。


模拟和数字实现


用于神经元实现的各种方法需要解决两个基本问题:(i)处理 - 负责计算输入和权重输出的部分;(ii)数据传输 - 负责数据传输和存储的部分。


虽然采用数字电路实现在现代大规模IC设计中更为常见,但最近的方法越来越多地通过模拟电路实现。神经元的数字实现基于乘法和累加电路。每个操作都涉及读取输入和权重,并产生中间结果。该过程重复多次。在求和结束之后,需要将非线性应用于结果值,并且将结果呈现为神经元输出。每N个循环可获得一次结果。此后应存储该结果。


图3:数字电路构建功能块


模拟电路则利用信号的连续性来表示某些物理电平的总和(例如,电压电位的总和,或电流的总和),并获得免除有限世界长度表示问题的连续信号。


图4:模拟电路构建的功能块(连续操作)


模拟电路的另一种变型是基于脉冲的电路,其利用恒定幅度的脉冲序列的概念。在这种情况下,激励水平取决于速率。这个概念大部分类似于脑神经元活动。


图5:模拟电路构建的功能块(脉冲操作)


在模拟情况下,数据存储是一项非常重要的挑战。它可以通过转换到数字域来解决,这意味着需要进行某种模数转换,同时在获取数据时进行数据和数模转换。或者,输出可以直接馈送到下一级,从而避免任何存储操作。如果设计能够支持所需的带宽,则后一种方法是高效的。如果需要,可以应用一些电容以允许带宽控制。(注意:图3、4和5显示了实现每个前面提到的方法的一个选项,并没有包含所有实现细节)


性能


在研究各种方法的性能时,很明显,虽然数字化方案已经得到了很好的建立,但它受到CMOS技术障碍的限制,如~0.4V的晶体管级阈值电压,低于3GHz的标准单元、与工艺相关的最大时钟频率和占空比限制。对于单个8位乘加运算,这将导致处理节点的下界约为~100fJ。


相反,模拟电路在理论上受热噪声的约束,热噪声大约为0.01fJ。这比数字电路低四个数量级。因此,有理由基于模拟计算结构构建电路。然而,实际部署受到各种问题的挑战,例如将数据传递到所描述的大量计算单元,与其连接相关的寄生效应,有效存储输出以及最终转化为大规模设计流程和批量生产技术的能力。在实践中,有报告表明,计算单元的可实现能量为1~10fJ。在这些实现中,实际上计算单元能量变得可以忽略不计,然而,总能量主要由周围电路和存储单元支配。


总而言之,在基于数字电路构建的功能块之上的X10~X100的实际效率在小规模下是可以实现的,但是一旦单元规模扩大,其效率就会迅速下滑。 


图6:相关的操作域图


图6是不同方法的定性描述。模拟电路的效率损失主要是由于实现损耗(即,检测器电路具有一些内部噪声,其降低了信噪比并且需要更好的裕度)。在这种情况下,脉冲方法具有较低的检测阈值。放大模拟解决方案时,会观察到噪声耦合。这种效应随着解决方案规模的增长而增长(在连续方法中更为显着)。数字方法受这种耦合效应的影响较小。实际上,从模拟到数字的能量差距归因于更高的电压电平和工作频率,这在模拟情况下要高得多。


实际上,大规模电路设计在过去几十年中已经成熟,且获得的行业经验不容易被忽视。因此,可扩展性和产品化在很大程度上限制了使基于模拟的解决方案成为解决一般问题的主要方法的能力。此外,在系统层面,不能忽视次要贡献者。一旦计算单元贡献降低到合理水平,进一步改进就变得不那么重要了。


系统层面


到目前为止,这个讨论一直致力于构建功能块级别。但是,忽略系统的其余部分是不完整的。系统级分析应该考虑所有贡献者,并考虑到在某个时刻基本处理的改进因素可以忽略不计的事实。能量分布就是这种情况。


迄今为止,在运行机器学习任务时,最先进的解决方案正在努力达到0.1~1TOPS / W. 这相当于每次操作1~10pJ。如前所述,由于0.1pJ的神经元平台的数字实现,然后90%~99%的能量仍然存在于包括存储单元、控制结构和总线架构的其他领域中。因此,利用潜力进行架构改造至关重要。仅通过转换到模拟方案回收的能量上限为所消耗的总能量的10%。


对照


下表列出了各种方法的一些关键属性,并总结了上面提到的大多数项目。


表1:模拟和数字电路基础神经网络的比较


结语


总而言之,显而易见的是,机器学习的活跃特性将带来新的和有趣的技术,这些技术将逐步成熟并满足各种市场需求。


模拟解决方案在神经网络计算引擎领域展现出了巨大的发展潜力。一旦成熟,它很可能成为各种神经计算解决方案中的补充元素,并可能解决一些具有挑战性的案例。尽管如此,由于其有限的可扩展性,技术节点敏感度,以及它提供的解决方案与相对有限的应用程序子集相关,而数字解决方案可提供有效的解决方案,因此,目前还很难预见基于模拟电路的解决方案何时能在该领域实现灵活的替代,并占据主导地位。


原文链接:http://www.eenewsanalog.com/news/analog-and-digital-circuits-machine-learning




*本文由 公众号 半导体行业观察(ID:icbank)原创翻译。如需转载请加微信号:icbank_kf01,或在公众号后台回复关键词“转载”,谢谢。


今天是《半导体行业观察》为您分享的第1664期内容,欢迎关注。


推荐阅读

5nm设计的新进展

英特尔帝国是怎样建成的

国内半导体上市公司盘点


关注微信公众号 半导体行业观察(ID:icbank),后台回复以下关键词获取更多相关内容


SSD | 摩尔定律 | ASR | 面板 | 晶体管 | 开源 | 独角兽 | 封装 | 展会



回复 投稿,看《如何成为“半导体行业观察”的一员 》

回复 搜索,还能轻松找到其他你感兴趣的文章!



关于摩尔精英

摩尔精英是领先的芯片设计加速器,重构半导体基础设施,让中国没有难做的芯片。主营业务包括“芯片设计服务、流片封测服务、人才服务、孵化服务”。覆盖半导体产业链1500多家芯片设计企业和50万工程师,掌握集成电路精准大数据。目前员工200人且快速增长中,在上海、硅谷、南京、北京、深圳、西安、成都、合肥、广州等地有分支机构和员工。


点击阅读原文了解摩尔精英

推荐帖子

发个用于查找分压电阻【E-24,E96】匹配的Matlab函数
functionfindR(val,err,sel,area) %查找匹配电阻 %val=R2/R1 %err偏差 %sel电阻选择,为1时使用1%电阻,为5时使用5%电阻 %area数量级范围,1时在1~9.9内搜索,2时在1~99内搜索,3时在1~999内搜索 %E96=round(10.^([0:95]/96)*100)/100 %E24=round(10.^([0:23]/24)*10)/10 R1=[1.001.021.051.071.101.131.151.181.211.24
weipingying TI技术论坛
【GD32L233C-START评测】8、ADC与DAC测试
一、概述 GD32L233C-START开发板板载的MCU具体型号是GD32L233CCT6,集成了一个ADC单元和一个DAC单元。 其中,ADC拥有14个通道(10个外部通道和4个内部通道);DAC一个通道。 通过下面的这张图,可以很方便的看出该MCU的资源情况: 12位ADC是一种采用逐次逼近方式的模拟数字转换器。ADC可以转换16个外部通道和4个内部通道的模拟信号。模拟看门狗允许应用程序来检测输入电压是否超出用户设定的阈值。各种通道的A/D转换可以配置成单次
xinmeng_wit GD32 MCU
基于ARM9的语音处理系统软硬件设计(部分资料)
嵌入式系统是指操作系统和功能软件继承于计算机硬件系统之中,简单说就是系统的应用软件与系统的硬件一体化,具有软件代码少,自动化程度高,相应速度快等特点,特别适合于要求实时的和多任务的体系。在技术方面的这些独特优点,必使其在航天、电信、信息家电、工业控制和军事等领域得到广泛应用。在嵌入式系统硬件和软件两方面中:硬件方面,新的微处理器层出不穷,芯片性能逐渐提高,市场份额高居榜首的ARM公司开发了很多系列的处理器,根据性能优势的不同可以应用于不同场合,这在硬件方面为嵌入式系统的发展提供了坚实的基础;
X战警 ARM技术
有谁用过ROGOWSKI线圈电流传感器吗?
请问各位大虾,有谁用过这个传感器,并急需其DATASHEET,我到处都没有找到,请指教有谁用过ROGOWSKI线圈电流传感器吗?
solider 嵌入式系统
电源转压电路设计基础
一.电源转压模块所谓电源转压是将输入电压通过转压电路实现升/降压功能以供其他模块使用,智能车制作中,输入电池电压为7.2V,其他模块所需电压如下:最小系统板/OLED/鹰眼摄像头3.3V、运放供电±5V、舵机供电6V、驱动电路12V、CCD/编码器5V。下面就转压电路做一些相关介绍。稳压电路主要分为以下种类:LM2940转5V:LM2940属串联型线性稳压电路(只用于降压),此类电路结构简单、稳定性高、但功耗大、体积大、滤波效率低,须有较大的输入和输出滤波电容。MC34063转12VMC34
Aguilera 模拟与混合信号
2008中国Linux从业者职位分析报告
近日,我们针对国内知名招聘网站中2007年12月16日至22日近一周关于Linux、Windows以及Unix人才的21679条招聘信息进行了汇总分析。在这一周的招聘信息中:对Linux有招聘需求的企业数量共有2694家,有8516个具体工作岗位,需求25465名Linux人才;对Windows有招聘需求的企业数量共有3267家,有9183个具体工作岗位,需求人才25770名;对Unix有招聘需求的企业数量共有1727家,有5491个具体工作岗位,需求人才20498名。 调查发现,随
呱呱 Linux与安卓

最新有关Icbank半导体行业观察的文章

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2021 EEWORLD.com.cn, Inc. All rights reserved