构建更加通用的人工智能,让模型具有更加广泛和通用的认知能力,是当前人工智能(AI)领域发展的最大目标。目前流行的大模型路径是基于“尺度定律”(Scaling Law)去构建更大、更深和更宽的神经网络,可称之为“基于外生复杂性”的通用智能实现方法。这一路径虽然看上去可靠,但其面临着计算资源及能源消耗难以为继、可解释性不足等问题。
中国科学院自动化研究所李国齐、徐波研究团队联合清华大学、北京大学等借鉴大脑神经元复杂动力学特性,提出了“基于内生复杂性”的类脑神经元模型构建方法,改善了传统模型通过向外拓展规模带来的计算资源消耗问题,为有效利用神经科学发展人工智能提供了示例。
8月16日,这项将人工智能与神经科学研究联系到一起的工作,以《内生复杂性网络模型架起人工智能与神经科学的桥梁》(Network model with internal complexity bridges artificial intelligence and neuroscience)为题发表在知名期刊《自然计算科学》(Nature Computational Science)。
据介绍,该研究首先展示了脉冲神经网络神经元(LIF)模型和霍奇金-赫胥黎(HH)模型在动力学特性上存在等效性,进一步从理论上证明了HH神经元可以和4个具有特定连接结构的时变参数LIF神经元(tv-LIF)动力学特性等效。基于这种等效性,团队通过设计微架构提升计算单元的内生复杂性,使HH网络模型能够模拟更大规模LIF网络模型的动力学特性,从而在更小的网络架构上实现与之相似的计算功能。
进一步地,团队将由四个tv-LIF神经元构建的“HH模型”(tv-LIF2HH)简化为s-LIF2HH模型,并通过仿真实验验证了这种简化模型在捕捉复杂动力学行为方面的有效性。
实验结果表明,HH网络模型和s-LIF2HH网络模型在表示能力和鲁棒性上具有相似的性能,验证了内生复杂性模型在处理复杂任务时的有效性和可靠性。同时,研究也发现HH网络模型在计算资源的利用上更为高效,显著减少了内存和计算时间的使用,从而提高了整体的运算效率。在论文中,研究团队还通过信息瓶颈理论对上述研究结果进行了解释。
在论文上线后,《自然计算科学》期刊专门撰文高度评论该工作的价值,称论文中的网络模型“在人工智能与自然智能之间架起了桥梁”。评论称,AI研究更加贴近工程与应用,而神经科学的研究更加具有探索性;而研究团队挑战了这一传统,并证明了“更细致且生物学上更真实的神经元模型可以推动深度学习取得更大进展”。
据了解,目前联合研究团队已开展了对更大规模HH网络以及具备更大内生复杂性的多分支多房室神经元的研究,有望进一步提升大模型计算效率与任务处理能力,实现在实际应用场景中的快速落地。
该论文的共同通讯作者是中国科学院自动化所李国齐研究员、徐波研究员和北京大学教授田永鸿;共同第一作者是清华大学钱学森班本科生何林轩(自动化所实习生)、数理基科班本科生徐蕴辉(自动化所实习生),清华大学精仪系博士生何炜华和林逸晗。
相关论文信息:
https://www.nature.com/articles/s43588-024-00674-9
评论文章信息:
https://www.nature.com/articles/s43588-024-00677-6
11月25日,长城工程科技会议世界一流科技期刊及平台建设专题会在清华大学举行。清华大学校长、中国科学院院士李路明出席会议并致辞。清华大学副校长吴华强主持会议。李路明代表学校向与会嘉宾表示欢迎。他说,科......
在历经一年的深入调研论证和广泛征求意见后,不久前,一份名为《清华大学人工智能教育应用指导原则》(以下简称《指导原则》)的文件出现在清华大学校内网站上。这一文件标志着清华大学首次系统性地对校内人工智能(......
近日,北京智科华质科学仪器有限公司(以下简称“智科华质”)传来喜讯,其自主研发的HMS6500液相色谱离子色谱三重四极杆串联质谱仪成功中标北京大学化学与分子工程学院采购项目。以下是公告原文:北京大学化......
近日,北京大学发布了一批涵盖多个学科领域的科研仪器设备采购计划,预计采购日期集中在2025年10月和11月,预算金额总计超1.5亿元。此次采购涉及的仪器设备种类丰富,涵盖了从基础科研到高精尖领域的多个......
近日,北京大学2025年11月政府采购意向公布,拟购置的太赫兹泵浦探测超快成像光谱系统耦合低温强磁场近场扫描成像系统,预算980万元人民币。......
近日,北京大学公布了多个2025年10月政府采购意向,计划采购一批包括超高效液相-单四极杆质谱联用仪、库尔特单颗粒分析仪、纳米颗粒制备及分离浓缩系统、高通量生物分子显微成像互作仪、纳米颗粒流式分析仪等......
近日,清华大学2025年9至12月政府采购意向发布,本项目采购预算925万元,预计采购的仪器设备包括高光谱成像仪、材料表征系统、数字PCR、定量PCR、恒温扩增核酸分析仪、高通量单细胞标记分选及核酸检......
近日,清华大学实验室管理处对第十五届“清华大学优秀实验技术人员奖”获奖名单进行了公示。在此次公示名单中,化学系/分析中心磁共振实验室的杨海军高工荣获该项殊荣!这一奖项旨在表彰在实验技术岗位上长期耕耘、......
在禁食或低血糖等压力情况下,脑部能调控葡萄糖释放,但这种调控作用在日常生活中却鲜少被关注。据最新一期《分子代谢》杂志报道,美国密歇根大学的一项新研究表明,下丘脑的一类特定神经元能帮助大脑在日常情况下维......
8月21日,清华大学2025级本科生新生开学典礼在该校举行,约4000名新生参加典礼。典礼上举行了新生佩戴清华大学徽章仪式,清华大学校党委书记邱勇为新生代表戴上了清华大学徽章,并激励清华新生心怀梦想、......