GMIC圆桌：AI的芯片与算法

    新浪科技讯 4月27日上午消息，2018GMIC大会今日在北京召开，卡内基梅隆大学计算机科学学院机器学习系主任Tom Mitchell、高通公司全球技术副总裁李维兴、GTI首席科学家杨林出席了“AI的芯片与算法”圆桌对话并就AI芯片如何改变AI的本质等话题参与讨论。

　　面对Mitchell关于“AI芯片的发展的现状”的提问，杨林表示，他们开发了一款可以通过USB连接的硬件，可以用于AI计算。他认为，我们现在需要将AI“玩”起来，这样才能迎来发展；李维兴则认为手机等移动平台在发展AI技术上有着很大的机会，手机芯片产量更大、成本更低、集成程度也更高。

　　在接下来的环节中，杨林继续重申了自己“把AI玩起来”的主张，他认为通过AI硬件，我们可以开发出各种有用的产品。他以自己与科大讯飞的合作为例，展示了如何将语音识别集成到AI硬件中。杨林认为，从学生到退休人员，都可以参与到AI的开发中来。

　　李维兴则表示，AI的使用场景是非常丰富的，随着移动平台的发展，手机与汽车都将成为AI的一个终端。杨林补充说，今年的主流移动平台可以提供0.1T的通用算力，这是不够用于大规模AI计算的，所以要在云端算，手机上应用。但是，中国手机总体闲置算力是非常庞大的，约合800台神威·太湖之光的算力。我们未来可以通过网络，将这些算力利用起来。

　　Mitchell提问道，在刚刚的对话中，大家提了分布式计算机、云计算与本地计算结合等面向未来的计算方式，但这个未来中，最大的不确定性是什么？

　　杨林表示，通信技术的发展让这些计算方式成为可能，但杀手应用的缺乏可能是最大的不确定性。李维芯则继续重申了自己将AI玩起来的主张，他认为“跳一跳”这样小游戏或许会是AI发展的机会。（钟毓）

　　以下为圆桌会议实录：

　　主持人：有请李维兴、杨林、Tom Mitchell进行圆桌论坛。

　　主持人（Tom Mitchell）：圆桌论坛我们要讨论一个非常重要的话题，我们会讨论一下AI和硬件，包括芯片的技术，它会如何改变人工智能的本质。我今天非常高兴的请到了杨林，是（GTOI）首席科学家，并且是伯克利的教授，另外一个是李维兴，是高通的。首先我问一下这个问题，我们还处于AI提供硬件阶段还处于比较早的阶段。我想问一下二位，你们如何看待未来几年支持AI的一些相应的硬件发展趋势是什么？

　　杨林：现在大家都知道，人工智能现在已经进入到产业化阶段。从研发到产业化阶段是需要几个新的平台，也需要一个新的做法，我这次来主要就是说，现在常用的平台，现在就是英伟达的GPU，包括Google的TPU。现在也有苹果公司、高通或者华为都做出来的手机的。我们现在研发了一块，可以做到手机外USB一个很小的芯片，功耗非常低，性能非常好。我现在希望大家把人工智能玩起来。一旦到玩起来，才能够真正达到产业化。我们说AI生万物是这次会议的主题。怎么生万物，就是有各种形式的落地平台。下面我会其他的具体问题再解答。

　　李维兴：非常感谢主持人的问题，这是一个非常好的问题。实际上我要打算这样回答，我也打算用中文来回答。其实从人类的科技进步，进入所谓个人可以使用的产品，其实这条路是一个非常重要的一个，从技术、从实验室、从学校里面到最后是一些特殊的IC，最后是大家可以用的产品。

　　这条路很重要，这条路实际上在之前20年大家可以发现到在移动平台上，移动计算平台上面带来了一个非常好的机会。说明移动计算平台最熟悉的就是手机，从简单的功能机到稍微复杂一点的功能机，到现在大家的人手一机的智能手机。智能手机往前推进的速度是非常快的。有非常多技术上必须去解决的，提供一些功能，从最早的语音，到摄像头，到视频，到互联网。每一个不同的需求，自然就会带给工程师一些挑战。透过这么大的一个平台的非常快速的迭代改进，造成所有好的技术、好的生产工艺都能够在移动平台上面发挥出来。这是第一个优点。

　　第二个优点，就是因为它的量大，就说我们叫做规模经济。让成本快速到达一个大家都可以负担得起的一个关键。

　　第三个非常重要的，就是移动平台的一个推理，就是高度集成的需求。为什么呢？因为手机像最早大哥大这么大一只的话不可能做到这么方便，你必须将它缩小化。缩小化的好处是耗电量降低，不仅是待机时间增长，使用时间也增长。

　　透过这三个非常重要的因素加起来，从使用的方式也改进了，从语音，到无线上的互联网，到现在大家APP的使用方式改变了大家的上网习惯，改变了大家消费的习惯。AI又是另外一个非常重要的一种使用方式，它讲整个CPU、GPU、DIC，或者特殊为了AI设计的硬件的需求激发起来。透过一个高度集成，快速迭代的规模经济将这个东西带起来。所以高通认为这种AI在行动领域，甚至是其他不同的使用方式都会带来经济重要的推理。

　　主持人（Tom Mitchell）：非常感谢非常有意思的观点。大家可以看到，刚才二位都指出，就说在AI的基础硬件方面会一些非常大的变化。所以我问这样一个问题，你觉得有哪些，今天哪些新的应用是今天不能做的，但是因为这些新的硬件，将来可能会出来。

　　杨林：AI刚才我讲了，现在一方面是研发，咱们中国已经确定了百度搞智能汽车，腾讯搞智能医疗，阿里搞智慧城市，科大讯飞搞语言翻译。但是这是国家大项目，我刚才指出了什么叫，把人工智能玩起来。沿着这四个方面我都可以给你举个例子，就是我们大家都可以参与到人工智能应用创造的方面。刚才听大会主持人也说了，GMIC已经从全球移互联网改成，或者将来的趋势是机器智能。

　　所以我们大家相当于我们下面要进一步，我先说智能医疗。智能医疗是大家治病。但是如果用一个很简单物美价廉的东西放到你每天早上起床看的镜子里面，它就会监视你的家人，每天你的状态的变化。这个也没有什么隐私的问题，也不用上传。但它就会觉得你今天好像没睡醒，或者你今天是发高烧，或者是怎么样。然后向你建议一些其他方式。就说AI生万物，实际上相当于万物长眼。因为第一件事就是要传感器的问题。这是我举的智能医疗问题，当然还有其他的问题，包括婴儿和老人的监护。

　　第二，智能汽车，我们不是说除了智能驾驶之外，智能交通之外还搞什么东西？可能就是说现在带着车钥匙找不着车怎么办，或者钥匙丢了怎么办。到那儿可以用声纹识别，人脸识别这套东西。就是有人把你的车锁撬了，还有一个这是不是我们家人，不是的话可以把不法分子传到你的手机上，告诉你这个车被人偷盗了。这些东西不是在智能驾驶的范围，但是和汽车也有关系，就是你自己开发，没有人替你开发，你自己可以玩出来这样一个东西。

　　还有智慧城市，智慧城市肯定是一个很广大的范围，我们就要提到智能家居。国内我想现在也有扫地机。什么是扫地机，现在都有智能扫地机，它就是自己扫完地没电以后自己去找一个充电的。但是我们知道现在扫地机没有眼睛，相当于雇了一个瞎老太太帮你扫地，效率非常不高。你可以根据你们家是地毯还是地板，你可以搞一个智能设备，它是专门哪脏扫哪，节约了电，还有看到哪儿可以扫一扫。现在还有1500-2000元的智能锁，这个东西我们也可以做。烟雾报警器，这些智能家居东西我们都可以做，这是智慧城市一个最大的突破。

　　最后一个例子是跟科大讯飞搞，现在大家都是在网上搞翻译，或者是语音理解。最近脸书这个问题产生了以后，也不是自己，为了这么搞，可能会有一些人利用科技的漏洞把人个人的隐私拿掉。实际上把这个东西放在自己一个小的东西里，比如我刚才拿的USB这么一个小的插件里，你就可以把自己的语音识别翻译，可以给训练好。而且这个非常简单，因为在语音识别里有两种，一种叫特定人识别，就是针对你自己的；一种叫非特定人识别，是根据所有的全世界的人。非特定人的识别难度是非常非常大的。的确，是这个小芯片做不到的。但是针对你们一家人的，我就是北京口音，北京人训练北京的，上海人训练上海的。这样的话非常简单的一个识别的问题。但是隐私的问题就不存在了。

　　所以说这些事刚才Tom讲的，说是下面我们在产业化怎么做，我觉得一方面科研政府的项目；一方面是我们高中生、大学生家里退休的知识分子，都可以开发我们日常生活的人工智能硬件。

　　李维兴：这个问题也是一个有意义的问题，刚才杨教授讲的各种使用方式，我总而言之，从身边的近，到稍微远一点到你家，智能家居，到城市，到整个大区域的，不管是刚刚Tom提到的，比如说医疗的事情，不管是治传染病的，这都是各种不同使用方式。

　　我从另外一个角度讨论这个问题好了，就是说事实上有非常多现在在，比如说我们身边手机、车子上面的技术，可能在二三十年前都某一个教授带一个PHD学生，用当时非常困难的计算平台做出来的PHD论文。为什么现在突然之间这些东西就普遍化了呢？其实就是因为计算的平台有这个能力。我举一个算是我进高通第一个工作，就是如何将语音数位化。因为之前的话我们叫弯机，到了2G的时候一定要将它压缩，那时候二三十年前的论文找出来，发现有语音压缩的各种不同的技巧。这些观念在，但是没有一个运算的平台，很多好的想法就无法实现。但是现在把这个方向转过来，一旦市场提供了有效、低成本，非常高效率的计算平台，突然之间你本来没想到的使用方式其实都会蹦出来。

　　我常常跟我身边的同事讲，当好几个Dake之前Intel发明的时候，决定发明Intel的时候，绝对没有想到脸书是它设计的需求。直到这个平台变得大家可以接触得到，自然就有非常聪明的人根据他身边不管是个人或者工作的情况，将这个东西用上去。高通认为AI各种不同使用方式一定是非常丰富的。这就是为什么我们认为如何将所谓不管是硬件，还是软件，更重要的是框架，要让它提供出来，用非常方便集成的方式，让业界，甚至跨业界的使用方式都有机会做出来。这个时候一定有让大家眼睛一亮的使用方式自然就会碰出来。高通认为移动一定是跟着你的一种使用方式，这时候所谓云上面的训练跟推理，到计算机，到边缘侧，也就是手机侧这个地方，甚至车子，都会是一个平衡。我个人也是期待有更多有意义，让我们生活更加方便，甚至是启发式的使用方式会在业界推展出来。谢谢。

　　杨林：我补充一些李博士刚才说的说法，我非常赞同他说的这个。这个就是怎么玩起来，大家现在人人都有手机，就是用手机玩起来。为什么用手机玩起来？我这里说一个，刚才咱们说了人工智能是算力。算力过去十年前手机芯片都是专用集成电路。为什么？就是通讯需要的算力非常大。但是十年前大家都改成通用算力，就是Arm，或者其他通用芯片。在通用芯片算力算起来的时候，就进到了我们每个人手上，都有一个通用的算力，这个算力是多少呢，据我估计，就是到今年新的型号，0.1T，这是什么意思呢，就是每秒钟10的11次方的算，就是最简单的，人工智能用的这种乘法、加法。大家可以知道，这个算力很大，但是人工智能要需要的算力会远远大于这个。这是为什么李博士说在云端算，手机端用。我最近也跟其他人在探讨这个事，就是高校教育的问题，怎么样大学生、高中生用起来，就是我们也要参与训练，怎么参与，我给大家说一个，就是连续三年中国是超级计算机的领军者。我们的神州太湖，每秒钟11亿次。什么概念呢？是每秒钟10的17次方。相当于一个神州太湖等于1百万个手机，算力相当大。可是中国移动有8亿9千万的用户，所以我们相当于有8亿9千台神州太湖的算力。最起码它有一半时间，当我们睡觉的时间不用，也没人用，也不存在电的问题。充电宝大家都有，就是在外面都可以用。后来一个移动资深专家告诉我，经过统计，每天每人只用三个小时。所以说八分之一的使用，八分之七的时间是闲置的。我们每个人手里，我现在统计的，就是整个中国移动的手里相当于有8百台神州太湖的算力闲置，没有利用起来。所以这是未来我们玩儿AI的一个最重要的平台。我现在为了这个生态链，针对我们现在这个，作为第一个有高通的手机作为一个通用平台，外我们这个专用加速器，就是一个落地平台，我们现在还用了一个最时髦的叫区块链技术。区块链技术可以把大家所有的资源都利用起来。没有隐私的问题，也没有就是搞应用的人只是搜集数据，搞训练的人只是专家，白天上班，晚上替你开发应用，也不用公司高档的GPU或者是服务器，而是用他自己的手机。所以这个很快，我相信两三年之内，AI的普及就会普及。

　　李维兴：刚才杨教授讲的我补充一下或者澄清一下。刚刚提到数字，从2017年到2021年，就是接下来的五年，实际上手机全球的销量大概是估计86亿。这么大量，我刚才提到的规模经济跟整个迭代的速度会将非常多的技术往前延伸。

　　第二点，我刚刚必须再深度讲一下。云端上面，所谓训练和推理，大家都会认为好像在终端上面只是做训练，实际上高通不这么认为。高通认为在终端侧也有做训练和推理的需要。因为有非常多的个人资料，事实上刚刚Tom教授也提到了，隐私是一个非常重要的问题。因为把一些重要的名字拿掉，也许传上网不是什么大问题，可是有些非常个人性的东西，必须要在人的身边，这时候能够在你的手机侧，透过你自己的资料去做训练，才能够好好的把它用起来。当然，这个还有所谓低时延的需求。因为高通同时也是通讯公司，所以我们对3G/4G，实际上现在2020年大家都在往5G方向走。可是同一个时间，所谓从资料上去再下来，这个时延还是不是可以被忽略掉的，这个就在本地做相当多的运算，不管是所谓的本地训练还是什么都是非常重要的。第三个非常重要的一点，就是可靠性。万一停电了，我讲的不是手机停电，而是网络上停电，或者其他理由造成的，这个时候在本地端的需求是显而易见的。

　　主持人（Tom Mitchell）：二位描述了非常美丽的未来。现在想问一个问题，你们两位刚才描绘了未来的图景，这样一个未来的图景它是一种分布式的计算机的环境，我们现在已经有了云的服务器和终端的移动手机，将来的图景是两者结合，可能还一些USB是接到手机里面，是本地的。还有通过5G可以很好的跟云上的服务相对接。

　　有一个我想提一下，大家可能这方面都有很多的思考，如果我们去理解未来整个的通讯的基础架构的话，我想问一下两位这个问题，有哪一个要素是是最大的一个不确定性？也就是说，要实现这样一个目标哪个是最大的一个不确定性呢？这个问题是否能理解，最大的不确定性是什么，为了实现这样一个目标？

　　李维兴：我觉得这里其实有些东西是确定的，包括通信网络往前迭代，然后计算能力基本上就是Moslow越来越小，代表计算能力越来越高。但是如果今天问我，因为我们在每一个2G转3G，3G转4G其实都会问一个问题，就是说为什么大家用3G，为什么大家用4G，为什么大家用5G。最后会想去说，因为杀手级的应用或者杀手级的使用方式让2G/3G/4G变成什么，像智能手机其实在苹果之前已经存在，但是好像到了一个时间点突然之间就变成大家都可以有了。如果今天问我，我觉得这是不知道的，可能是一切。

　　杨林：说到不确定性，我这个人是比较乐观的，所以我认为可能会比大家现在想象的AI的普及会更快，而且最后的结果会更好。为什么呢？我上个星期参加了一个全球软件开发大会，全是年轻人，坐的都是跳一跳，这种小游戏，就是年轻人，我们这代人都是属于我不能叫做工作狂，但是总是觉得只有工作才有价值。人家就认为玩也是生活中的一个最大的一部分。下来后我跟他们讨论，就是说怎么让他们能够参与到AI里，就是人工智能里。第一个，就是说我们已经有了手机平台，我也给手机平台加了一个AI专用的加速器的东西。怎么玩儿？跳一跳的开发者说，我准备把你这个东西加上去。这个东西我跟他讲他为什么参与，为什么有兴趣？我说我这个是NP Hard。NP Hard跟比特币是一样的，是一个哈希码。我想大家为什么参与到比特币的挖掘？第一，比特币需要大量算力，所以需要专用芯片。开发人工智能实际上也是一个NP Hard的问题，就是学习和训练。他要找到这个适合的东西。

　　这个工作谁来做，就是全民做，不是某一个大公司。某个大公司只是做一个很具体的，也是很重要的，但是这个需要很长时间的。你们可以想像，智能汽车，自动驾驶，智慧城市，智能医疗，这个东西愿景非常大，什么时候能来呢？五年、十年？不知道，不确定。大家我个人认为，家里这些小的像我刚才说的智能旅游，智能家居，你学中草药，识别中草药什么，就是这些东西是非常非常方便，也没有大的公司去给你开发这个东西，这个是需要兴趣，需要玩儿。所以我个人认为，所有这些搞小游戏的人都向我保证，他们一定在一边玩的过程中，一边把AI的小应用，现在是小程序、小应用，现在又加了一个小AI。所以这个跟我讲的人都是阿里巴巴、腾讯、小米，这些人他们都听进去了，他们会打造一个生态链，把所有的这些AI的应用普及到高中生，普及到谁都可以玩儿，没有文化都可以玩儿。

　　主持人（Tom Mitchell）：非常感谢两位，但是我们时间已经到点了。在这里我说一下我们的探讨使得我更加的意识到了，对于我们现在所面临的问题还有机会都是同样的丰富多彩的，所以这个议题非常的有意思。可以说关于硬件的实施，可能也会涉及到了一些隐私的保护，也会涉及到延时和关于界面以及其他的很多问题。也希望我们的听众一块来向我们的这些专家，感谢他们的真知灼见。大家一块鼓掌，谢谢。