Continual Meta-Learning обозначает парадигму обучения, которая сочетает принципы мета-обучения с принципами непрерывного обучения для разработки моделей, способных постоянно адаптироваться к новым задачам без потери ранее приобретённых знаний.
Формально модель \( M_ heta \) обучается последовательности задач \( \{T_1, T_2, ..., T_n\} \), при этом для каждой задачи обеспечивается быстрая адаптация с использованием небольшого количества примеров и одновременно минимизируется катастрофическое забывание.
Это часто реализуется с помощью стратегий оптимизации, которые интегрируют как мета-обновления обучения, так и механизмы памяти или регуляризации для предыдущих задач.
Определение:
«Continual Meta-Learning — это парадигма обучения, которая позволяет модели непрерывно изучать новые задачи и быстро адаптироваться к ним, сохраняя при этом ранее приобретённые знания и предотвращая катастрофическое забывание.»
Источник:
Finn, C., Rajeswaran, A., Kakade, S., & Levine, S. (2020). Online Meta-Learning. Proceedings of the 8th International Conference on Learning Representations (ICLR).