中国科学家研究提出新型类脑学习方法

　　记者29日从中国科学院自动化研究所获悉，该所徐波研究员团队联合科研同行最新研究提出一种基于神经调制依赖可塑性的新型类脑学习方法(NACA)，实现更高分类精度和更低学习能耗，可极大缓解灾难性遗忘问题，有望进一步引导新型类脑芯片的设计。

　　这项人工智能(AI)领域类脑研究重要进展成果论文，由徐波研究员团队与中国科学院脑科学与智能技术卓越创新中心蒲慕明院士、临港实验室李澄宇研究员等共同完成，近日在国际著名学术期刊《科学》旗下《科学进展》在线发表。

　　论文第一作者、中国科学院自动化研究所张铁林副研究员介绍说，人工智能迫切需要借鉴生物系统中的微观、介观、宏观等多尺度神经可塑性融合计算机制，以便启发实现更加高效的类脑连续学习算法，消除人工神经网络由于采用反向传播等人工学习方法而导致的广泛灾难性遗忘现象。

　　而生物系统中常见的多巴胺、5-羟色胺、血清素、去甲肾上腺素等神经调质物，往往经由特定的腺体释放，并远程弥散、投射到一定范围内的目标神经元群体，且根据调质浓度水平的不同，对局部的神经元、突触等多种微观可塑性产生复杂的调制影响。受生物神经调制机制的启发，研究团队通过建模多巴胺、乙酰胆碱等“全局神经调制可塑性”“局部时序依赖可塑性”等多尺度神经可塑性机制，整合得到这种基于神经调制依赖可塑性的新型类脑学习方法。

　　张铁林指出，这一新型类脑学习方法参考大脑中复杂的神经调制通路结构，并以期望矩阵编码的形式对神经调制通路构建数学模型，在接受刺激信号后产生不同浓度的多巴胺监督信号并进一步影响局部突触和神经元可塑性类型。该方法支持采用纯前馈的流式学习方法训练脉冲和人工神经网络，通过全局多巴胺的弥散支持与输入信号同步，甚至先于输入信号的正向信息传播，再加上选择性对“局部时序依赖可塑性”的调整，使其表现出明显的快速收敛和缓解灾难性遗忘优势。

　　论文通讯作者徐波研究员表示，在两类典型的图片和语音模式识别任务中，研究团队从准确率和计算成本两方面对新型类脑学习方法的算法进行评估，并选取两种全局学习算法作为对比，在人工神经网络中则以目标传播和反向传播算法作为对比对象。结果显示，在图片分类和语音识别标准数据集上，新型类脑学习方法都实现更高的分类精度和更低学习能耗。

　　同时，在验证静态分类任务的拟合能力后，研究团队重点测试新型类脑学习方法的连续学习能力，并将神经调制扩充到神经元可塑性范围。在连续手写数字、连续手写字母、连续手写数学符号、连续自然图片、连续动态手势等五大类连续学习任务中，新型类脑学习方法具有更低的能耗且发现可以极大地缓解灾难性遗忘问题。

　　研究团队认为，这次研究提出的新型类脑学习方法，是一类生物合理的全局优化算法，其采用宏观可塑性来进一步“调制”局部可塑性，可视为一种“可塑性的可塑性”方法，与“学会学习”“元学习”等有直观上的功能一致性。

　　新型类脑学习方法同时在两种优化问题中获得性能和计算成本上的优势，更在连续学习这一更贴合生物生存环境和实际应用场景的动态任务范式下发挥出重要作用。“这些纯前馈学习、低训练能耗、支持动态连续学习等综合特征，也将有望进一步引导新型类脑芯片的设计。”徐波说。