Continual Meta-Learning bezeichnet ein Lernparadigma, das die Prinzipien des Meta-Learnings mit denen des Continual Learnings kombiniert, um Modelle zu entwickeln, die fortlaufend neue Aufgaben adaptieren können, ohne vorheriges Wissen zu verlieren.
Formal betrachtet lernt ein Modell \( M_ heta \) eine Abfolge von Aufgaben \( \{T_1, T_2, ..., T_n\} \), wobei für jede Aufgabe eine schnelle Anpassung mit wenigen Beispielen ermöglicht wird und gleichzeitig das katastrophale Vergessen minimiert wird.
Dies wird häufig durch Optimierungsstrategien realisiert, die sowohl die Meta-Lern-Updates als auch Speicher- oder Regularisierungsmechanismen für vorherige Aufgaben integrieren.
Definition:
„Continual Meta-Learning ist ein Lernparadigma, das es einem Modell ermöglicht, kontinuierlich neue Aufgaben zu erlernen und sich schnell auf diese anzupassen, während es zuvor erworbenes Wissen bewahrt und katastrophales Vergessen verhindert.“
Quelle:
Finn, C., Rajeswaran, A., Kakade, S., & Levine, S. (2020). Online Meta-Learning. Proceedings of the 8th International Conference on Learning Representations (ICLR).