L'apprentissage continu (CL), également connu sous le nom d'apprentissage tout au long de la vie, désigne le processus par lequel un modèle apprend une séquence de tâches T_1, T_2, ..., T_n, sans que les connaissances sur les tâches précédentes ne soient perdues lors de l'apprentissage de nouvelles tâches.
Formellement, le problème de « l'oubli catastrophique » est abordé, où l'optimisation pour de nouvelles tâches dégrade la performance sur les tâches précédentes.
Les approches de l'apprentissage continu peuvent être classées en : (1) méthodes basées sur la régularisation, qui introduisent une pénalité pour les modifications des paramètres importants (par exemple Elastic Weight Consolidation de Kirkpatrick et al., 2017), (2) méthodes de relecture, qui utilisent des données antérieures ou des pseudo-données générées pour préserver la mémoire, et (3) méthodes d'architecture, qui utilisent des sous-réseaux séparés ou une construction modulaire.
Le défi central consiste à résoudre le dilemme stabilité-plasticité, c’est-à-dire l’équilibre entre la préservation des anciennes connaissances et l’intégration des nouvelles connaissances.
L'apprentissage continu est essentiel pour les systèmes adaptatifs opérant dans des environnements dynamiques et est activement recherché dans des domaines tels que la robotique, les systèmes d'assistance personnalisés et les véhicules autonomes.
Définition :
« L'apprentissage continu est un paradigme d'apprentissage dans lequel un modèle apprend séquentiellement des tâches tout en préservant les connaissances des tâches précédentes afin d'éviter l'oubli catastrophique. »
Source :
Kirkpatrick, J., Pascanu, R., Rabinowitz, N., et al. (2017). Overcoming catastrophic forgetting in neural networks. Proceedings of the National Academy of Sciences, 114(13), 3521-3526.