发布时间:2024-08-21 11:30 原文链接: 复杂性类脑网络构建方面获得新进展

构建更加通用的人工智能,让模型具有更加广泛和通用的认知能力,是当前人工智能领域发展的重要目标。目前流行的大模型路径是基于尺度定律去构建更大、更深和更宽的神经网络,但这一路径面临着计算资源及能源消耗难以为继、可解释性不足等问题。

8月16日,北京大学深圳研究生院教授田永鸿团队联合中国科学院自动化研究所研究员李国齐、徐波团队等的合作成果发表于《自然—计算科学》。

研究团队借鉴大脑神经元复杂动力学特性,提出了“基于内生复杂性”的类脑神经元模型构建方法,改善了传统模型通过向外拓展规模带来的计算资源消耗问题,为有效利用神经科学发展人工智能提供了示例。该研究工作为推动自然智能与人工智能差距的弥合、降低AI碳足迹等科学领域提供了工具和框架。

《自然》同期发表的观点文章对该研究评价道:“AI 研究更加贴近工程与应用,而神经科学的研究更加具有探索性。研究团队挑战了这一传统观点,并表明更详细且生物学上更真实的神经元模型可以推动深度学习取得更大进展。”

在类脑计算研究中,脉冲神经网络占据核心地位,是最具有生物意义、最类似大脑运行机制的神经网络模型,被认为是新一代的神经网络。该研究首先展示了脉冲神经网络神经元LIF模型和HH模型在动力学特性上存在等效性,进一步从理论上证明了HH神经元可以和四个具有特定连接结构的时变参数LIF神经元动力学特性等效。

基于这种等效性,团队通过设计微架构提升计算单元的内生复杂性,使HH网络模型能够模拟更大规模LIF网络模型的动力学特性,在更小的网络架构上实现与之相似的计算功能,并通过构建简化模型验证了其在捕捉复杂动力学行为方面的有效性。

该研究为将神经科学的复杂动力学特性融入人工智能,为构筑人工智能与神经科学的桥梁提供了新的方法和理论支持,为实际应用中的AI模型优化和性能提升提供了可行的解决方案。目前,研究团队已开展对更大规模HH网络,以及具备更大内生复杂性的多分支多房室神经元的研究,有望进一步提升大模型的计算效率与任务处理能力,实现在实际应用场景中的快速落地。

相关论文信息:https://doi.org/10.1038/s43588-024-00674-9

 


相关文章

我所利用光诱导的协同羰基化和(杂)芳基迁移实现烯烃的双官能团化

近日,我所生物能源研究部催化羰基化研究组(DNL0604组)吴小锋研究员团队利用光诱导的协同羰基化和(杂)芳基迁移,实现了烯烃的双官能团化,团队通过光催化下一氧化碳(CO)选择性插入,实现了自由基接力......

与学术主流针锋相对,难忘周光召院长的支持

■陈霖2004年,周光召院长推荐我获得“求是杰出科学家奖”,这是查济民先生创立的求是基金会于1994年设立的华人科技大奖。这样的大奖授予我这样一个当时并不是院士、没有什么个人关系和名气地位的坐“冷板凳......

孕育“龙芯”的478个日夜

■本报记者赵广立“八五”“九五”期间,我国连续10年没有部署通用处理器(CPU)研制项目。于1999年底出任中国科学院计算技术研究所(以下简称计算所)所长的李国杰,为此心急如焚。“错过这5年,以后就没......

陈薇院士:表征生物学解码复杂生命

生命体从生长、发育,到疾病、衰老、死亡,过程复杂而又多样,随着科技的发展,我们对这些生物学过程的理解已经达到了前所未有的深度和细节。然而,不同个体的生命过程存在着显著差异,这也给现代生物学研究带来了巨......

新型活体塑料助力塑料污染难题

大规模塑料垃圾的产生和不当的处理方式,使塑料污染成为当下最严峻的环境问题之一。8月21日,中国科学院深圳先进技术研究院研究员戴卓君团队在《自然—化学生物学》发表研究,研究团队通过对微生物进行基因编辑并......

新版高血压防治指南“新”在哪儿

近日,《中华高血压杂志》刊发了《中国高血压防治指南》(2024年修订版)(以下简称新版指南)。据悉,这是我国在1999年首版高血压防治指南颁布后的第5版高血压防治指南。“这是一部既具中国特色,又在学术......

切还是不切?肺结节如何被正确对待?

结节如何被正确对待? 2020年全球癌症新发病例约1930万例,癌症死亡近1000万例。其中肺癌新发病例数约为221万例,占癌症新发病例总数的11.4%。肺癌死亡约180万例,居癌症死亡首位......

近25%的欧洲土地有望重新野生化

欧洲广袤的遗弃农田有望通过“再野生化”焕发新生。一项新研究分析显示,这片大陆上约有四分之一的土地,总计达1.17亿公顷,正孕育着重生的机会。这一发现为欧洲各国实现《2030年欧洲生物多样性战略》中提出......

用细菌造塑料

世界各地的生物工程师一直在努力创造能制造塑料的微生物,以取代石油基塑料工业。现在,韩国研究人员已经克服了一个主要障碍:使细菌能够产生含有环状结构的聚合物,这种聚合物能使塑料更加坚硬和热稳定。由于这些分......

科学家观测到迄今最重反物质超核

近日,中国科学院近代物理研究所等机构的科研人员参与RHIC-STAR国际合作实验研究,首次在相对论重离子金金碰撞中观测到一种新的反物质超核——反超氢-4,这是迄今实验上发现的最重的反物质超核。相关成果......