类脑计算是借鉴脑科学的基本原理,面向人工的通用智能,基于神经形态工程发展的新的计算技术。
为什么要发展这样一个技术?现在人类生活在一个数码宇宙,万事万物随时随地联系起来,构成一个万物互联的数码宇宙。这个宇宙成长非常快,信息每两年翻一番,整个宇宙迅速地膨胀,而且从来不退步,而这样一个宇宙是基于我们现在的计算机架构,而计算机架构又基于冯诺依曼架构。
冯诺依曼架构是我个人认为人类发展史上最简洁、漂亮、对我们影响最大的一个架构,特点是计算和存储分离,计算、存储通过总线来回调度。可以设想一下,来回的调度耗费了很多的能量、耽误时间、速度慢、造成了堵塞,所以就有了带宽的瓶颈。
2017年图灵奖的得主John L。Hennessy 和 David A。Patterson最近写了一篇长文,得出的结论是:未来的10年是计算架构发展的黄金10年。主要原因是,过去我们是用计算机做计算,而现在我们是用它处理信息,但数码宇宙每两年翻一番,所有能耗无法承受。
当然,还有其它原因,那就是我们现在生活在一个人工智能时代,人工智能取得了非常大的成绩,尽管AlphaGo战胜世界围棋冠军,但人工智能仍然有很多的瓶颈,简单来说人工智能的发展必须满足5个条件:
1、充足的数据。2、决定性的问题。3、完备的知识。4、静态。5、单一的系统。
举个例子,如果让智能机器人自主地走向一个目的地,事先不进行编程它是无法做到的,我们人类用了几年的时间建立起这个概念:在哪里、怎么出去、走门、走窗户,所有的这些都与通用智能有关,所以我们的结论是:要发展一个人工通用智能。
要发展人工通用智能,我们必须向脑学习,因为脑是整个宇宙目前唯一的一个通用智能体。把人脑和电脑相比,虽然两个系统原理不同,但二者有很强的互补作用。
所以,可以通过借鉴脑科学的基本原理,来改造现在的计算机系统。发展类脑计算是发展人工通用智能的一个非常重要的部分,因为这是计算的基石。
发展人工通用智能并不是最近才有的想法,如果我们翻阅图灵、冯诺依曼这些大科学家早期的文章,不难发现这是科学家们一直以来的梦想。
为什么现在是发展人工通用智能最好的时候呢?因为随着精密仪器的发展,人类对脑了解的越来越多,现在似乎到了一个理解脑的关口。超级计算机的发展可以帮助科学家做非常棒的模拟仿真,省钱、省力又省时间的大数据和云计算给科学家提供了一个像脑一样复杂的系统,和脑交相呼应,这样我们就可以共同研究、互相促进。
另外,随着纳米器件的发展,科学家可以去发展电子器件,能耗能达到人类大脑神经元和突触这样的水平,所以现在是发展人工通用智能最好的一个时机。
发展类脑计算去支撑人工通用智能,在这里面脑起了非常大的作用,它到底起了一个什么作用?
13年前,有感于摩尔定律在二三十年后将要到头,所以我开启了类脑计算的研究,虽然我自认为自己研究做的还不错,但在类脑计算方面,我忽然感到自己不会做研究了,因为这个领域没有文献,很多东西需要自己摸索,所以感到非常的苦恼。
有一次我去爬山,故意让自己钻进森林,不出意外,我迷路了。后来我就根据太阳来判断方向,盯着一个方向一直走、一直走,一直走到高速公路上,拦了一辆车。还有一次,我在阴天进入了森林,也迷路了,我就想了一个办法:一直往高处爬,爬到最高的地方,盯住一个点一直走、一直走,最后又走到高速公路上,拦了一辆车回家了。
通过这两件事情,我就开始思考,大脑在这里面起的是指南针的作用,给我提供的是方向感。
做科学研究,我喜欢选择领域比较难的来做,因为我觉得越难做的反而越容易,因为太容易的领域会有很多竞争者,很难做到领先。如果是比较难的领域,做着做着可能旁边就没人做了,自己反而可以领先,但有一个前提条件:方向必须是正确的,如果你走到一条错路上,那就很尴尬。
人类的智能是建立在碳基上的,在硅基上我们已经建造了现在的数码宇宙,而碳基和硅基的结构非常相近,所以我们有一个信念,碳基上能够实现的,在硅基上也一定能够实现。
学科分布:发展类脑计算和人工通用智能的挑战
发展类脑计算和人工通用智能真正的挑既不是科学,也不是技术,而是我们的学科分布,目前的学科分布使得我们没有合适的人来做这方面的研究,而且脑科学和计算机科学一个主要是探索自然世界,后者更关注应用。这两个领域有不同的文化、语言,而且目标也不一样,所以多学科融合尤为关键。
清华大学类脑计算研究中心由7个院系组成,因为这个领域不仅仅是计算机和脑科学的融合,还有数学、物理、电子、微电子等的融合。
我们7个院系的老师在一起反复讨论,每周半天的时间,最后我们7年只做了一件事情,叫融合、融合再融合。
在这个过程当中,我们梳理了一下如何去发展人工通用智能,主要是有两条路线:第一,计算机主导的;第二,脑科学主导的。计算机主导的像机器学习,它在图象识别、语音理解、自然语言的处理方面,取得了辉煌的成绩,但它很难去处理不确定性的问题等。
脑科学神经形态计算,发展的也很快,但由于我们不理解脑的机制原理,极大地阻碍了它的发展,但是两条技术路线实际上互补,二者结合起来是目前我们认为最好的一种方法。
发展类脑科学实际上还有两条:1、基于计算机,用脑科学的基本原理来改变计算架构;2、我们用一个“类脑”这样简单又明了的词涵盖了这两个部分。
不理解人脑原理,如何能造出类脑计算系统?
这个研究实际上你要研究理论、芯片、软件、系统、云脑到应用。但是,大家总是问一个问题:不理解人脑,凭什么能造出类脑计算系统?
我们思考了很久,后来我们得到了答案。答案是这样的:计算机是把多维空间的信息转换成为0、1这样的一维信息流,用计算来解决问题。CPU的主频越来越快,换句话说你用的是时间复杂度,问题是当你缩小维度的时候,相关性却丢失了,这就是人很容易确定一个物体是在真实空间里还是在镜子里,但对于计算机则很难,这就是根本原因。
对于大脑,我们不知道它的基本原理,但是我们知道,一个神经元连接一千到一万个神经元,换句话说我们在这个地方把信息扩输了,把相关性增强了,我们用的是空间复杂度。另外,大脑还用脉冲来进行编码,引进了时间的因素,我们还利用了时空复杂度,所以想保持现在的计算机所有的优点,保持时间复杂度,来增加一块类脑芯片。
增加的是什么呢?增加的是空间复杂度、时空复杂度。如果我们以这种观点来看现在的技术,你就发现现在的人工、神经网络的加速器,是面向深度人工神经网络。它利用的就是空间复杂度,而像脑一样工作的,神经形态计算,面向的是脉冲神经网络。它利用的是时空复杂度,一个空间复杂度,一个时空复杂度,何不把它结合起来呢?
所以,我们提出了天机芯片架构,用了3%的代价,实现了既支持人工神经网络,又支持像脑一样工作的脉冲神经网络,而且还支持两个异构建模。我们还利用类脑芯片,构建了一个人工通用智能的研究平台。
我们的想法是这样,构建一个可以和系统互动的多模态交叉研究平台,我们利用环境变化逼迫这个系统变化,当它变化的时候,我们观察应用这种变化,系统应该遵循的基本原理,从而帮助我们迭代发展,利用一块天机芯片,我们就实现了感知、追踪、过障、避障、自动控制、语音理解、自主决策。
芯片很重要,软件也很重要,因为如果没有软件,应用工程师不愿意做应用软件开发。所以我们自己开发了一个软件工具链,在我们实验室,实际上现在已经搭起了第一代的类脑计算机。
我们现在做的是一个类脑云脑。它和现在的云计算的差别是:云计算是把很多技术整合起来,而类脑云脑是面向人工通用智能的,因为人工通用智能的研究从基本上来讲,不同于把很多人工智能简单的叠加在一起,我们的想法是把脑的弹性和计算机的刚性结合起来,把数据驱动和知识驱动结合起来,把通用知识和推理结合起来。
当然,这是一个非常具有挑战性的长期研究,我们的策略是循序渐进,可以设想一下,我们先专注在一个一个问题的研究上,这个可以称为是第一代,然后两个问题一起研究,这个可以称为第二代,然后第三代、第四代,最后是第五代,从而让我们构建人工通用智能。
人工通用智能:赋能各行各业
我们发展类脑计算,支撑人工通用智能,因为它是通用智能,所以它可以赋能各行各业,可以有很多的应用。
我们对智能教育特别感兴趣,目前教育的很多问题都可以通过这个的研究来解决。比如说高质量的教育资源很稀少,造成了教育不公,由于经费有限、仪器有限,我们很难做到真正的理论联系实际等。
随着类脑计算、人工通用智能的发展,这些都会逐渐的解决,然后发展新的系统。但是还有一个非常重要的因素,因为教育最主要的是塑造人。
自工业革命以来,人类发展了蒸汽机、发电机、计算机、大数据,还有现在的万物互联,人类一直在改变外部的世界,一直在改变我们的物质生活。当我们的物质生活发展的已经很快时,我们的精神生活实际上没有同步发展,我们现在在智能时代发展类脑计算,从而有机会向内发展,审视我们的内心。
衷心地希望人类在发展我们的技术、探索外界世界的同时,能够也研究一下我们的内在世界,内外兼修、共同发展,从而建设一个美好、和谐的世界!