摘要

持续学习（Continual Learning, CL）——即逐步获取并整合新概念的能力——对于智能系统适应动态环境至关重要。然而，深度神经网络在顺序学习任务时面临灾难性遗忘（Catastrophic Forgetting, CF）问题，即在学习新任务过程中，往往会覆盖先前已掌握的知识。为应对这一挑战，近期方法通过梯度投影技术将参数更新限制在正交子空间中，有效保留了先前任务的重要梯度方向。尽管此类方法在缓解遗忘方面表现良好，但其在任务高度相关时却无意中抑制了前向知识迁移（Forward Knowledge Transfer, FWT）。本文提出一种基于概念器（Conceptor）的梯度投影深度持续学习方法——CODE-CL（Conceptor-based Gradient Projection for Deep Continual Learning）。该方法利用概念器矩阵表示，这是一种正则化重构形式，能够自适应地处理高度相关的任务。CODE-CL通过将梯度投影至先前任务特征空间的伪正交子空间，有效缓解灾难性遗忘，同时促进前向知识迁移。其核心机制在于学习共享基向量方向的线性组合，从而在稳定性与可塑性之间实现高效平衡，并实现重叠输入特征表示之间的知识迁移。在多个持续学习基准测试上的大量实验结果验证了CODE-CL的有效性，表明其在性能表现、遗忘抑制以及前向知识迁移方面均显著优于当前最先进的方法。