L'apprentissage contrastif est une méthode d'apprentissage qui vise à créer une représentation des données dans laquelle des points de données similaires sont plus proches les uns des autres dans l'espace des caractéristiques que des points dissemblables.
Cela est réalisé en utilisant des paires ou des triplets d'exemples, où les paires positives (exemples similaires) sont rapprochées et les paires négatives (exemples dissemblables) sont éloignées.
Les approches typiques utilisent des fonctions de perte telles que la perte triplet ou la perte InfoNCE pour optimiser les distances dans l'espace des caractéristiques.
L'apprentissage contrastif est particulièrement efficace en apprentissage auto-supervisé, car il fonctionne sans étiquettes explicites et génère des caractéristiques robustes pour d'autres tâches comme la classification ou le regroupement.
Des applications connues se trouvent dans le traitement d'images, le traitement du langage et le pré-entraînement des réseaux neuronaux.