L'apprentissage méta-continu désigne un paradigme d'apprentissage qui combine les principes de l'apprentissage méta avec ceux de l'apprentissage continu, afin de développer des modèles capables d'adapter continuellement de nouvelles tâches sans perdre les connaissances préalables.
Formellement, un modèle \( M_\theta \) apprend une séquence de tâches \( \{T_1, T_2, ..., T_n\} \), où pour chaque tâche une adaptation rapide avec peu d'exemples est possible tout en minimisant l'oubli catastrophique.
Cela est souvent réalisé par des stratégies d'optimisation qui intègrent à la fois les mises à jour méta-apprentissage et des mécanismes de mémoire ou de régularisation pour les tâches précédentes.
Définition :
« L'apprentissage méta-continu est un paradigme d'apprentissage qui permet à un modèle d'apprendre continuellement de nouvelles tâches et de s'adapter rapidement à celles-ci, tout en préservant les connaissances acquises précédemment et en empêchant l'oubli catastrophique. »
Source :
Finn, C., Rajeswaran, A., Kakade, S., & Levine, S. (2020). Online Meta-Learning. Proceedings of the 8th International Conference on Learning Representations (ICLR).