博客专栏

EEPW首页 > 博客 > 异构+融合,探索类脑计算芯片的蓝海市场

异构+融合,探索类脑计算芯片的蓝海市场

发布人:芯片揭秘 时间:2023-05-14 来源:工程师 发布文章

艾新博盛投资合伙人 曹幻实 (左) 灵汐科技副总经理 华宝洪(右)


本期话题:
  • 什么是类脑计算

  • 突破能耗痛点,看类脑芯片的独特优势

  • 类脑芯片的应用场景

  • 国内外产业布局及未来前景


点击收听大咖谈芯现场实录↓↓↓






什么是类脑计算?


幻实(主播):本期非常开心能够通过云连线的方式和来自北京的听众沟通,这位听众所在的企业和类脑芯片有关,他们在类脑计算领域也有一定的话语权,能够产出资深的观点。接下来有请北京灵汐科技的副总经理华总来给大家打招呼!


华宝洪(嘉宾):大家好,我是华宝洪。灵汐科技是一家国内专门从事类脑计算的芯片企业,目前我们已经量产了类脑计算芯片KA200,现在正在进行产业化的推进和部署。KA200是目前国内第一颗异构融合的类脑计算芯片,在国际上处于领先地位。非常感谢能有机会跟大家在云上见面。


幻实(主播):刚刚您提到了类脑这个词,我已经迫不及待想让您给大家科普一下什么叫做类脑计算?什么又是类脑计算芯片?


华宝洪(嘉宾):其实在学术界里,类脑计算和传统的计算是有区别的,英文名称是Brain Inspired Computing,更前沿的叫法是Neuromorphic Computing。它是把生物科学计算和计算机科学计算这两个学科融合在一起的新兴学科。从本质上来讲,类脑计算是一个综合的计算系统。狭义理解,它是支持脑科学的一种计算方法或计算系统;广义理解,它包括了类脑芯片、底层编译器、高层编译器、类脑学习计算框架、类脑应用等,是一个从上到下的完整计算体系或者计算系统。

狭义和广义上的类脑计算 (图源:智源社区)

幻实(主播):这个技术对我们来说算不算很新?它的发展的时间有多久?


华宝洪(嘉宾):从类脑计算本身的角度来说发展历程其实挺长的,因为在计算机出现之前就有了“类脑计算”这个概念和词汇,只不过当时不是用计算机的形式,而是其他的形式,包括结合解剖学方面的原理来做的理论推导、涉及相应的数学演算等等。计算机发展之后,加速了人们在计算方面向脑科学的学习与融合,例如把解剖学、生物学的东西结合进来,形成一种新的计算机系统。


上个世纪80年代,加州理工学院(California Institute of Technology ,Caltech)教授卡弗·米德(Carver Mead)最早提出类脑计算的神经形态芯片这一概念,到目前为止,市面上陆陆续续已经出现了很多种类的类脑芯片。


最开始出现的是1990年美国斯坦福的Si Neuron。从2005年到2008年,以美国为代表的西方国家陆陆续续在这个领域产出成果,一直保持相对领先的水平,尤其是2006年英国的曼彻斯特大学推出了SpiNNaker芯片,它是基于纯ARM架构的类脑计算芯片,给后续的类脑计算做出了非常好的表率。


2011年,德国海德堡大学推出了一款类脑芯片叫做BrainScaleS。在2013年前后,IBM推出了TrueNorth。这几款都是类脑计算芯片里比较有代表性的产品。2018年前后,X86头部企业Intel推出了他们的第一款类脑计算芯片Loihi,引起了学术界的广泛关注。

类脑芯片历史发展进程 (来源:灵汐科技提供)

从整体发展历程来看,从上世纪九十年代初一直到现在,类脑芯片产品一直是国外在做,那国内的情况是什么样呢?


2013年开始,清华大学类脑计算研究中心开始着手此类研究,2015年推出了第一款“天机”芯片,2017年出了第二代,目前已经是第三代。灵汐科技拥有核心技术与专利,是“天机”类脑芯片从基础研究成果转化成应用技术、再到产业化落地的企业。对比国内外的情况,基本处于同步发展阶段。尽管我国起步较晚,但类脑计算领域整体的技术水平,尤其是异构融合方面实际上已经领先国外了。


突破能耗痛点,看类脑芯片的独特优势


幻实(主播):听您这样说,似乎国内离最先进产品的距离也不是特别遥远。那么从技术实现性上来说,它的难度大不大?当年有一件火爆到出圈儿的事件就是Alpha Go和李世石的围棋争霸战,人工智能在与人脑的博弈中具备了更优秀的表现,可是这种成绩是建立在1202个CPU、176个GPU、150KW的能耗基础上才取得的。在低碳节能的时代,不可能用这样大的能耗去做这种处理和计算,那么类脑芯片是否也是类似于Alpha Go的方案?它对能源的消耗又是怎样的?


华宝洪(嘉宾):这是个很好的问题,也是现在类脑计算需要解决和突破的问题。目前我们处在人工智能发展的新阶段,但面临的问题以及在未来会遇到的挑战都是很明显的。


人工智能发展到今天,大家都在讨论一个问题:为什么人工智能可以取得很多成就?归结起来无非是三个因素——三驾马车:算法、大数据、算力。随着算法被设计的越来越复杂、算力越做越大,产生的数据量也越来越多,只要有足够多的算力、数据和算法,就能用人工智能来解决很多问题。


但代价是什么呢?是巨大的功耗。超算中心的功耗非常大,动辄兆瓦起步。有一个很形象的比喻,“开一个超算中心能‘吃掉’半个核电站的电能”。在当前双碳经济社会中,要提高能耗比,在单位功耗里就得尽可能地有效输出计算能力。这给现有的人工智能发展带来很大的挑战,现在的大数据、各种层出不穷的算法并没有从根本上解决人工通用智能的问题,它带来的最大负面影响就是能耗。所以,国家发改委、工信部对能耗指标都有要求,比如PUE指标必须低于1.25以下才能建。人脑的功耗是20瓦,相当于一只电灯泡的功耗,而我们却能用这20瓦去做很多算力不能做的工作。所以未来的人工智能发展,我认为重点不是要去解决大算力和多算法的问题,而是要思考如何向人脑学习,在提高算力的同时又降低功耗。

人脑与电脑的关系映射 (图源:灵汐科技提供)

人脑可以举一反三,但计算机做不到举一反三,它只能举一反一。让计算系统具备像人脑一样的思考问题和解决问题的能力,是人工通用智能的终极目标。人脑是碳基的,电脑芯片是硅基的,我们希望在硅基上实现碳基人脑思考的能力。这也是做类脑芯片的出发点,希望能够模拟人脑低功耗的特点,去实现复杂的计算和处理。比如灵汐科技前不久量产的KA200类脑芯片,单芯片功耗低于15瓦,整个芯片的能效比输出非常高,能够达到2TOPS/W以上。


此外,类脑计算芯片还可以助力构建新的计算系统,像人脑一样进行神经元计算和生物动力学计算。人脑的神经元是多少呢?850亿个,类脑计算要在硅基上做碳基神经元的模拟。研发类脑计算芯片是希望去解决人工通用智能面临的一些困境。第一个是算力的困境,第二个是场景的困境,现在的AI系统无法处理复杂的动态和不确定的场景,原因是现有的AI系统使用的是真实数据被处理后再被穷举的办法,然而真实的世界是不能被穷举的;第三个要是能耗困境,目前通用计算使用的CPUGPU等,算力与能耗成正比。类脑计算就是要去解决这三种困境。


类脑芯片的应用场景


幻实(主播):未来的数据时代都会遇到这三种困境,但同时我们也知道芯片的细分非常强,有ASIC芯片,也有专门处理图形的GPU等等,您谈及的类脑芯片,在您看来在什么场景下或领域中会有特别独到的优势?类脑芯片会“动别人的奶酪”吗?


华宝洪(嘉宾):类脑计算设计之初瞄准的主战场是什么?是类脑计算和大规模脑仿真。面向的是模拟生物脑动力计算等场景,类脑芯片通过对人类大脑的微观单元,如神经元、突触、离子通道等进行生物建模,构建神经网络复杂的数学系统,实现大规模脑仿真。


这里有很多问题需要解决,比如生物脑动力学的计算,一亿以上的神经元如何大规模互联建模?在毫秒级和亚毫秒级颗粒度下,如何实现快速脑仿真等。


下一步,是实现更实际的应用。比如说探究脑疾病的形成过程,获取生物脑的一些工作原理,比如尝试研究人的记忆是怎样产生的?人的情感受到哪些因素的影响……这些以往要靠动物实验获得的数据,我们希望能通过类脑计算芯片和类脑计算仿真平台就能得到。


类脑芯片在脑仿真这方面有着得天独厚的优势能够更快更准地实现场景模拟。比如使用超级计算机或CPUGPU去做生物脑仿真的建模,1秒钟生物脑活动可能需要200秒到500秒的时间才能做完,而用类脑计算芯片不会超过5秒。类似这种场景仿真速度可以提高一到两个数量级,能加快人类对大脑的理解进度。我们并不是去解决生物学或者医学中的学术问题,而是给生物学和医学提供一个加速研究的平台,借助这个平台,在脑仿真领域获取更多的实验数据和观测数据。


幻实(主播):听起来好科幻,让我想起了《三体》里边的情节,有一个面壁人就是研究脑科学,描述了这样一种方向。您在讲述的时候我其实就在回想了,原来现在已经有团队真的在做这件事了,让我觉得有些震惊,原来科幻真的可以走进现实。


华宝洪(嘉宾):举一个有意思的例子,我们在跟复旦大学冯老师团队合作做生物脑的数字孪生,借助大规模的脑仿真计算,让人脑在电脑里实现数字化孪生。孪生出的数字脑能够在情感表达和某些情绪反馈上,和真实的人脑会有80%相同或相近。这意味着什么呢?人的思维和情绪表达会被数字脑孪生出来,当某一天人脑衰老时,数字脑依然年轻。这或许是我们做脑仿真或者脑科学计算领域最梦幻的一个梦想。


在健康领域,未来脑疾病的治疗将可能有重大突破。国外已经有在研究和部署脑机接口了,就是把芯片植入到脑里去,获取脑活动信息、脑电波等信息来观测大脑的健康信息。


我们现在做的更多的是通过大规模脑仿真来还原、仿真、模拟计算探究脑疾病。比如帕金森症的形成过程,尝试获取在病变过程中生物神经元、动力学计算等领域有哪些改变?可以通过哪些药物来进行针对性的治疗?搞清楚形成机制、机理,将来的治疗手段才会更加准确和高效。这是第一个应用。

类脑芯片的几种不同类型 (图源:智源社区)

除了独特的脑仿真、脑科学领域之外,在传统AI领域,类脑芯片也表现优异,比如在常规的图像视频识别、自然语言理解等领域提供高能效比的解决方案。现在的智慧城市、智慧医疗包括智能制造等应用都可以迁移过来。这是第二个应用。


第三个应用方向是新兴的类脑计算。是将传统的人工智能和脑科学结合起来的计算,即异构融合,融合生物神经网络和传统人工神经网络。融合之后能处理比如高速动态场景的小样本学习,以及在线学习等场景,而这些目前仍是传统人工智能领域面临的一个痛点。


国内外产业布局及未来前景


幻实(主播):听完您说的我感到非常激动,类脑计算不管是从脑的计算和使用上,还是对于脑部疾病患者的福音上,都能提供一种很好的解决方案。那么我也想了解一下,它现在的产业化程度怎么样了?国内往这个方向发展的公司进展如何,现实情况是什么?


华宝洪(嘉宾):从诞生之初,类脑计算就承载着和传统计算不一样的历史使命。从本质看,它是非传统架构的计算;从未来的产业发展趋势看,异构融合是走向人工通用智能的一个重要方法和重要手段。清华大学类脑计算研究中心推出的“天机”一代,是最早的在一颗类脑计算芯片里把传统人工智能和脑科学的脉冲神经网络融合在一起的芯片,这是世界的首创。“天机”二代异构融合的架构在2019年登上了nature的封面,引起了全球的关注。

《自然》杂志当期封面图 (图源:网络)

英特尔在2018年推出了Loihi,它只能做传统的生物神经网络计算,由128个Neuromorphic Core (神经形态的核心)外加3个低功耗的英特尔X86核心组成。 在2021年Intel发布了Loihi2,参考了天机二代的异构融合架构,在支持传统的生物神经网络的基础上,也开始支持人工神经网络。


被誉为ARM之父的Steve Furber也在欧洲自然科学基金的资助下开发了神经形态芯片SpiNNaker,其升级版SpiNNaker2也是借鉴了融合的概念,既支持生物脑动力学的生物神经网络,也支持传统的人工神经网络。国际大厂Intel和ARM都延续了天机芯的异构融合概念,可以看出国内外一致认为异构融合是走向人工通用智能的有效手段。


现在大家都在谈芯片的封装、芯片的制程、异构计算等老生常谈的概念。这些概念从本质上讲,并不能从根本上解决高能效比、小样本学习等问题。在行业导向和市场需求的双重驱动下,传统的冯·诺依曼架构和非冯·诺依曼架构的异构融合架构,会是推动现有人工智能走向新一代的重要引擎。


一方面,传统的冯·诺依曼架构芯片会继续往前走,从7nm到5nm,制程越来越高,封装也会越来越先进。另外一方面是非冯·诺依曼架构的芯片,通过架构的创新来满足生物神经网络、传统人工网络和新型混合神经网络等领域的规模化使用需求,给用户提供更具性价比和竞争力的产品。

类脑系统的框架 (图源:智源社区)

我国在计算领域里面有两个颠覆性的技术,一个是量子计算,另一个就是类脑计算。如何让现有的芯片去满足用户已有的投资?


用户已有的投资是什么?就是在传统的AI领域所投资的资产,包括算法、模型、数据,希望把更多的资产用起来。类脑芯片在表现出能效比和性价比会更高,同时我们也会在计算这个领域里引入异构融合的概念,去解决小样本学习、在线学习等传统AI面临的挑战。我们希望能给大家提供软件技术平台、硬件技术平台和路线图,让更多的合作伙伴在这个领域里去做更好的延伸。


在面向脑科学和脑计算领域。我们国家启动了中国脑计划项目。我们也做了很多工作,包括和科研机构、高校一起探索并推进如何构建10亿、100亿和800亿规模的神经元集群。


类脑计算在未来会给大家带来很多期待和振奋人心的好消息,国内外现在都在瞄着这个方向做。


幻实(主播):如果让您用一句话来做最终的倡导,您会倡导什么?


华宝洪(嘉宾):施路平老师有句话,可以作为类脑计算宗旨:在碳基上实现的智能,硅基上一定也可以实现。这就是我们类脑计算所追求的目标。


幻实(主播):这是一个坚定的信念,不是单纯的模拟芯片能够概括的复杂度,我很期待。集成电路发展的时间虽然不长,但几十年来造就了我们整个时代太多的神奇和奇迹般的感受,说不定未来人脑的构成真的可以用硅基的方式解析出来,让我们更加理解我们自身,理解人类的文明和人类的智慧。


华宝洪(嘉宾):人脑其实是最有魅力的一个智能体。如何让现有的计算系统向最完美的智能体去学习,这是现在类脑计算一直在追求的目标。


幻实(主播):好的,今天非常感谢华总跟我们分享了这么多,期待你们在这个领域能有更多的好消息,到时候欢迎再来芯片揭秘做客!


华宝洪(嘉宾):感谢大家,我是北京灵汐科技的华宝洪,我在芯片揭秘等着你。


人脑是自然界中最完美的信息处理系统,而类脑计算则借鉴人脑处理信息的方式,以更少的器件、更低的功耗和更高的能效比来颠覆传统计算范式,引领人工智能的新变革。当前,尽管类脑计算行业还处在突围阶段,但市场前景已经愈发明朗。根据Yole预测,2035年类脑计算市场将占据人工智能市场总收入的15%-20%,市场规模约200亿美元。


短期来看,类脑芯片应扎根端侧智能市场,发挥自身低功耗、高能效的优势,开发并创造更多的应用场景;长期来看,想要迎来商业价值的释放,不但要在产业端进一步控制类脑芯片的制造成本,还需要从科研端入手,从系统结构上发展类脑计算的完备性,向通用计算领域优化拓展。


*博客内容为网友个人发布,仅代表博主个人观点,如有侵权请联系工作人员删除。



关键词: 芯片 智能

相关推荐

技术专区

关闭