Continual Learning (CL), auch bekannt als Lifelong Learning, bezeichnet den Prozess, bei dem ein Modell eine Folge von Aufgaben T_1, T_2, ..., T_n lernt, ohne dass das Wissen über frühere Aufgaben durch das Lernen neuer Aufgaben verloren geht.
Formell wird das Problem des "Catastrophic Forgetting" adressiert, bei dem die Optimierung für neue Aufgaben die Performanz auf vorherigen Aufgaben verschlechtert.
Ansätze zum Continual Learning lassen sich klassifizieren in: (1) Regularisierungsbasierte Methoden, die eine Strafe für Änderungen wichtiger Parameter einführen (z.B. Elastic Weight Consolidation von Kirkpatrick et al., 2017), (2) Replay-Methoden, welche frühere Daten oder generierte Pseudo-Daten nutzen, um das Gedächtnis zu erhalten, und (3) Architekturmethoden, die separate Subnetzwerke oder modularen Aufbau verwenden.
Die zentrale Herausforderung besteht darin, die Stabilität-Plastizität-Dilemma zu lösen, also das Gleichgewicht zwischen der Bewahrung alten Wissens und der Integration neuen Wissens.
Continual Learning ist essenziell für adaptive Systeme, die in dynamischen Umgebungen operieren und wird aktiv in Bereichen wie Robotik, personalisierte Assistenzsysteme und autonome Fahrzeuge erforscht.
Definition:
„Continual Learning ist ein Lernparadigma, bei dem ein Modell sequenziell Aufgaben lernt und dabei das Wissen über frühere Aufgaben bewahrt, um Catastrophic Forgetting zu vermeiden.“
Quelle:
Kirkpatrick, J., Pascanu, R., Rabinowitz, N., et al. (2017). Overcoming catastrophic forgetting in neural networks. Proceedings of the National Academy of Sciences, 114(13), 3521-3526.