Arm/FPGA联手发威　研华生产线大步迈入AI时代

2018年4月，台北 –人工智能(Artificial Intelligence, AI)无疑是近一两年来科技产业内最热门的话题，除了科技业巨头无不大力投入之外，金融等服务业者对导入人工智能，也展现出强烈兴趣。制造业对AI技术的关注，也不在话下，并且在相关关键技术逐渐到位的情况下，已开始有实际导入动作。

倡导智能制造不遗余力的研华科技，除了为各行各业提供对应的先进解决方案外，在自家生产在线也开始逐步导入人工智能要素。比如机台设备的状态侦测/诊断、原物料/能源的使用状况，乃至产品的品管流程等，均已逐步导入人工智能。安谋(Arm)的硅智财(IP)与SoC及赛灵思(Xilinx)的现场可编程门阵列(FPGA)技术，则是研华推动生产线AI化的两大得力帮手。

研华IoT.SENSE采访研华技术长杨瑞祥与总厂长林东杰，探讨研华在AI、IoT、智能制造等创新浪潮下的解决对策，以下为专访摘要：

AI进化速度惊人 商业应用价值可观

研华科技技术长杨瑞祥表示，人工智能在学术研究领域并非新题目，近两三年来之所以引发社会大众与各行各业的广泛瞩目，主要原因在于其进化速度实在太过惊人，并已能创造出庞大的商业价值，不再只是个学术研究的题目。

除了针对特殊领域外，AI技术也在追求更高的泛用性。Deepmind最新的棋类程序已经把Go(围棋)拿掉，称为Alpha。因为该程序也懂得下日本将棋等其他棋类，并且接连打败其他世界顶尖的专用棋类程序。这无疑是人工智能泛用性发展的一个重要里程碑。

在快速演化与蕴藏庞大商业价值的情况下，人工智能成为当前最受瞩目的科技议题，其实不令人意外。但讨论归讨论，如何在各行各业导入人工智能，实现产业的智能化，还是有很多细节问题要克服。

人工智能增添智能制造动能

以制造业来说，不管最终制造的产品为何，制造业总是脱离不了「人、机、料、法」这四个元素。人是指员工，机则泛指各种工具机台，料是指各种原物料及能源，法则是制程方法。自工业革命以来，不管制造业的产品如何演变，都脱离不了这四个元素。如何最优化地管理好这四个元素，则是制造业者每天都要面对的课题。

杨瑞祥分析，导入人工智能，最重要的四个KPI，就是要展现在人工料法的优化与改善上。以人来说，如何将老师傅的经验变成可量化的参数，进而把人的经验复制、扩散，就是导入AI的一个重要目标。

不过，要实现上述四大优化，最重要的还是业者对AI的理解程度，以及所搜集到的数据集质量好坏。首先，制造业者必须要对AI有正确的认识，知道AI适合用来处理的问题为何，应用上又有何限制。其次，AI推论模型的训练成果，除了模型本身的设计外，训练数据的质量也很重要。如果用质量有问题的数据来训练模型，AI推论的结果会跟现实状况出现落差。

最后，组织文化也得有所调整。在导入AI之前，生产在线的所有决策者都是人，依靠的是过往的经验；导入AI后，握有最终决定权的虽然还是人，但不再只凭主观的感觉或经验来判断，而是相对客观的统计科学。人跟机器之间的信赖关系，需要一段时间提升。当然，AI本身也要持续进化，提升其预测的可靠度跟准确度。

不同处理器各有所长 Arm架构适合推论运算

杨瑞祥进一步解释，人工智能可以分成模型训练(Training)与推论(Inference)两个部分。对生产现场应用来说，大多是采用已经训练好的模型来执行各种推论应用，不会直接在边缘进行模型训练，因为模型训练需要强大的运算效能跟大量数据集，较适合在数据中心或云端上进行。

也因为推论对运算效能的需求较低，因此市面上有许多现成的处理器解决方案均能胜任，例如x86 CPU、GPU与基于Arm架构的SoC处理器，都可以执行相关运算任务，差别只在于成本、耗电量与散热是否能满足现场设备的规格限制。

就技术角度而言，GPU是目前最适合用来进行模型训练的处理器架构，以其执行模型推论任务当然也是绰绰有余，但GPU的成本、功耗跟随之而来的散热问题，却是这类处理器在边缘节点或现场设备应用上最大的限制。x86 CPU也有很强大的运算效能，但由于其架构设计的目标是满足各种运算/控制应用，因此在执行AI算法时，效率不如GPU。

杨瑞祥分析，这个问题跟AI的本质有关。AI通常只会用少数几种指令，甚至单一指令来处理大量数据。例如深度学习跟卷积神经网络(Convolutional Neural Network, CNN)，就数学的观点来说就是矩阵运算，跟绘图运算十分类似，因此GPU自然在这方面有先天优势。x86 CPU则长于应对多指令流多数据流(Multiple Instruction, Multiple Data, MIMD)的运算情境，但遇到数据量太过庞大的情况时，就必须靠拉高频率，或是以多核心及多线程架构来应对。

采用精简指令集(RISC)的Arm处理器，先天特性则介于GPU跟x86 CPU之间，加上近几年Arm处理器的单一指令多数据流(Single Instruction, Multiple Data, SIMD)效能不断强化，因此在执行AI运算时，更加得心应手。虽然目前要以Arm处理器来做模型训练，在效率上还是不能跟GPU相比，但在执行推论任务时，却是功耗、成本跟效能三者最平衡的方案。

杨瑞祥透露，近几年研华跟安谋密切合作，对安谋的产品发展蓝图也有一定的掌握。未来安谋将会针对AI运算需求推出更特化，效率更好的处理器核心跟周边IP。这对于推动边缘运算跟AI应用的普及，将会是很大的助力。研华也会跟安谋继续保持密切合作的伙伴关系。

边缘运算进展神速 人工智能进驻制造现场

紧抓人工料法四大要素，研华已经开始以Arm架构的SoC跟赛灵思的FPGA模块为硬件基础，在自家的生产在线逐渐导入人工智能。

研华科技总厂长林东杰表示，目前研华在生产在线导入AI，已经进入用AI来协助判读原始资料的阶段。在工业物联网的时代，不只个别生产在线的机台会产生大量数据，厂区的基础建设也会生成可观的数据数据量。要用人工来判读这些数据数据，分析其背后的意义，是没有时效性且效益有限的做法。

最后，由于研华所处的环境是典型的少量多样、接单生产型态，跟一般消费性产品规格单一，大量生产有很大的不同，因此生产线的管理也相对复杂。这也是研华在导入人工智能时，希望能解决的痛点之一。

林东杰表示，由于技术上的限制，目前还无法实现全面由系统判读原始数据的终极目标，但这是研华未来努力的方向。

更具体来说，未来研华的智能制造希望能实现三大目标：一、生产设备的现代化，希望所有的机台设备都可以支持工业4.0；二、实现数据采集与软件的介接，主要是将数据介接到制造执行系统(MES)、产品生命周期管理(PLM)等系统；三、将机器视觉与深度学习进一步扩大应用在品管环节中。

针对第一点，林东杰不讳言，现有机台的升级跟改造通常要价不低，特别是在需要原厂提供支持或授权，不能自己动手改的情况下。不过，在某些情况下，现有机台透过外挂研华自家开发的数据采集模块，就已经能获得足够的参数数据。

至于在机器视觉跟深度学习的扩大导入上，目前研华是与中研院合作，开发出可检测各种不同产品的机器视觉系统。事实上，研华使用光学自动检测(AOI)已经有很长的一段时间，但现有的AOI系统仅适用于主板、电路板上细微组件的检测，不适合用来检测终端成品或更大的零部件。

另一方面，研华产品少量多样的特性，也使得目前市面上的机器视觉方案要应用在研华的产线，遇到相当大的困难。目前市面上的机器视觉方案多半是为了大量产品的检测需求而设计，但研华的需求是能够自动适应各种产品型态的机器视觉检测方案。因此，研华决定与中研院合作，开发出客制化的深度学习算法，以便让机器视觉系统能更聪明地适应不同型态的产品。

FPGA模块实现机器视觉算法加速

而机器视觉正是FPGA模块大展身手的舞台，也是研华FPGA应用发展团队已经做出具体成果的项目之一。透过FPGA模块，研华可以自由决定哪些影像辨识的环节需要用硬件加速，以提升视觉检测系统的运作效能。

杨瑞祥指出，除了CPU跟GPU外，使用专用的硬件加速芯片来提升AI系统效能，理论上也是一条可行的路。不过，目前AI算法还在快速演进中，如果采用ASIC，很可能会追不上技术发展的脚步。而FPGA则是效能与弹性的折衷，其运算单元的结构可以客制化，来满足特定算法加速的需求，又因为具备可编程性，当算法需要修改或更新的时候，不用重新开一颗芯片，只要修改设计程序代码即可。

因此，现阶段来看，FPGA是用来实现AI算法加速的理想方案之一，研华内部也已经有相当成熟的FPGA应用开发团队，未来会继续投资在这项技术上。

Advantech Embedded DTOS FPGA Capability