Zero-Shot Learning expliqué pour les experts


Zero-Shot Learning (ZSL) est un paradigme de l'apprentissage automatique dans lequel un modèle est capable de reconnaître des classes pour lesquelles aucun exemple d'entraînement n'est disponible.

Formellement, on considère deux ensembles de classes : les classes d'entraînement \( \mathcal{Y}_{seen} \) et les classes de test \( \mathcal{Y}_{unseen} \) avec \( \mathcal{Y}_{seen} \cap \mathcal{Y}_{unseen} = \emptyset \).

L'objectif est d'apprendre une fonction \( f: \mathcal{X} \to \mathcal{Y}_{unseen} \) qui assigne correctement des données d'entrée \( x \in \mathcal{X} \) à une classe inconnue, en accédant à une représentation sémantique \( \phi(y) \) des classes.

Ces représentations peuvent être des attributs, des vecteurs de mots ou d'autres embeddings sémantiques, disponibles à la fois pour les classes vues et non vues.

Une approche courante est la projection des données d'entrée et des attributs de classe dans un espace commun afin de calculer des similarités et ainsi attribuer des classes inconnues.


Définition :
« Le Zero-Shot Learning est une méthode d'apprentissage dans laquelle un modèle reconnaît de nouvelles classes à partir de leurs descriptions sémantiques, sans disposer de données d'entraînement pour ces classes. »


Source :
Palatucci, M., Pomerleau, D., Hinton, G. E., & Mitchell, T. M. (2009). Zero-Shot Learning with Semantic Output Codes. Advances in Neural Information Processing Systems (NeurIPS).