科研成果

资源 1

当前位置: 首页 > 科学研究 > 科研成果 > 正文

王立元课题组在《模式》(Patterns)刊发封面论文揭示间隔效应提升人工智能与生物智能泛化能力的共性机制

日期:2026-05-20

浏览次数:

2026年5月19日,清华大学心理与认知科学系王立元课题组与合作者在 Cell Press 旗下期刊《Patterns》在线发表研究论文 “Spacing effect improves generalization in biological and artificial systems”,并被选为2026年6月的封面文章。该研究围绕智能系统一个最核心的问题展开:如何把已有经验推广到新的、相似但不完全相同的情境中。研究团队发现,无论是在生物学习还是在人工神经网络训练中,适当的学习间隔与适当的变异强度相结合,都能够显著提升泛化能力,并由此揭示了一类贯通生物学习与机器学习的共同计算原理。

泛化能力被普遍认为是衡量学习是否真正有效的关键标准。生物智能通常能够在有限经验基础上实现稳健泛化,而人工智能系统虽然在大规模数据训练下取得了快速发展,但在面对新场景、新任务时,泛化能力仍然是制约其可靠应用的重要瓶颈。在生物学习与记忆的研究中,一个经典而稳定的现象被称为“间隔效应(spacing effect)”:相较于短时间内密集重复训练,适当拉开重复学习之间的间隔,往往能够带来更好的学习效果。这一现象背后一个重要但尚未被充分验证的解释是,间隔训练有助于整合不同时间点上的感觉输入变化与内部状态变化,从而形成更具泛化能力的学习表征。

图1. 间隔效应提升泛化能力的编码变异性理论

围绕这一假设,研究团队首先在人工神经网络中系统引入“间隔效应”。他们从三个层面构建了具有生物启发的时序集成策略:在神经元层面,通过结构化随机失活调制神经元活动变化;在突触层面,通过间隔式参数平均整合不同训练时刻的网络参数;在网络层面,通过在线知识蒸馏与自蒸馏,引入跨时间的教师-学生监督关系。研究发现,在不同基准数据集、不同网络架构以及不同时序集成策略下,模型性能都呈现出一致的规律:无论是变化强度还是更新间隔,都与泛化性能形成稳定的倒 U 型关系。也就是说,变化太小不足以带来有效多样性,变化太大又会破坏训练稳定性;而合适的变化幅度与合适的时间间隔相结合,则能够显著提升测试表现。

图2. 人工神经网络集成学习的泛化提升作用

更进一步,研究团队将上述计算发现回到生物系统中进行验证。他们基于果蝇经典嗅觉关联学习范式,系统考察了训练试次之间的时间间隔,以及训练过程中感觉输入的试次间变异,是否会共同影响记忆的泛化表现。结果表明:在短时测试中,不同训练间隔对泛化影响有限;但在 24 小时后的测试中,具有适当间隔的训练能够显著增强果蝇对相似气味的泛化记忆。此外,在保持总体训练任务不变的前提下,仅仅引入试次间感觉输入的变化,也能显著提高果蝇的泛化表现;而当“适当间隔”和“试次间变异”同时存在时,这种提升进一步增强。

图3. 果蝇嗅觉关联学习的泛化提升作用

上述结果共同揭示了生物学习与机器学习可能共享的一类计算原理:对适当变化进行结构化的、间隔式的整合,能够形成更稳健、更具泛化能力的学习表征。这一发现为理解生物学习中的泛化机制提供了新的计算视角,也为人工智能训练范式的设计带来了启发,并有望进一步拓展到小样本学习、持续学习、对抗鲁棒性等方向。与此同时,这项研究也体现了“神经人工智能(NeuroAI)”的重要价值:从生物学习与记忆机制中提炼计算原理以改进人工智能,也借助人工神经网络实验反向拓展对生物机制的理解。通过这种“双向启发”,研究团队展示了生物智能与人工智能并不是彼此分离的两套系统,而可能在更深层次上共享某些关于学习、记忆与泛化的基本规律。

图4. 果蝇学习记忆机制启发的持续学习计算模型 [1]

这项研究延续了研究团队近年来围绕持续学习与泛化机制开展的一系列工作。此前,研究团队于2023年以封面文章发表在 Nature Machine Intelligence [1] 的研究,受果蝇学习记忆系统启发,提出了面向人工神经网络持续学习的计算模型,强调持续学习不仅要缓解灾难性遗忘,更需要实现对动态数据分布的强泛化能力。同时,研究团队于2023年发表在 eLife [2] 的研究,在果蝇上建立了连续学习多个嗅觉分类任务的行为范式,发现任务相似性和时间间隔会共同影响系统对不同经验的整合与分离:更相似、更接近的任务更容易被整合以促进泛化,而差异更大、间隔更长的任务则更容易被区分以抑制干扰。在此基础上,这项研究进一步对时间间隔与变化强度进行了系统刻画,揭示了二者如何共同影响生物智能与人工智能在时间尺度上的泛化能力。

图5. 果蝇的连续任务学习范式与生物机理验证 [2]

清华大学心理与认知科学系王立元助理教授为本论文的通讯作者,清华大学生命科学学院博士生孙广龙与博士后黄宁为本论文的共同第一作者。清华大学生命科学学院博士生燕鸿伟、博士生周骏、中山大学医学院李乾副教授、北京智源人工智能研究院雷博研究员、以及清华大学生命科学学院钟毅教授为本论文的共同作者。


论文链接:https://www.cell.com/patterns/fulltext/S2666-3899(26)00073-5


注释:

[1] Liyuan Wang, Xingxing Zhang, Qian Li, Mingtian Zhang, Hang Su, Jun Zhu, Yi Zhong. Incorporating Neuro-inspired Adaptability for Continual Learning in Artificial Intelligence. Nature Machine Intelligence, 2023.

[2] Jianjian Zhao, Xuchen Zhang, Bohan Zhao, Wantong Hu, Tongxin Diao, Liyuan Wang, Yi Zhong, Qian Li. Genetic Dissection of Mutual Interference between Two Consecutive Learning Tasks in Drosophila. eLife, 2023.


教师简介

王立元

心理与认知科学系助理教授、博士生导师

研究方向:机器学习与神经科学交叉

关闭

Copyright © 2002 - 2025 清华大学心理与认知科学系