持续学习指的是模型不断学习新任务或数据的方法，同时不会丢失之前获得的知识——这一问题被称为“灾难性遗忘”。

典型策略包括正则化方法，通过保护对先前任务重要的参数（例如弹性权重巩固），重放方法，重复使用旧数据或其表示，以及架构方法，为新任务创建独立的子网络。

持续学习对于数据按顺序到达且模型需要持续适应而无需重新从头训练的应用尤为重要。

挑战在于掌握稳定性（保持旧知识）与可塑性（适应新知识）之间的平衡。

研究领域还包括终身学习和多任务学习，这些与持续学习密切相关。