Kontrastives Lernen ist ein Lernverfahren, das darauf abzielt, eine Repräsentation von Daten zu erzeugen, bei der ähnliche Datenpunkte im Merkmalsraum näher beieinanderliegen als unähnliche.
Dies wird durch die Verwendung von Paaren oder Triplets von Beispielen erreicht, bei denen positive Paare (ähnliche Beispiele) zusammengebracht und negative Paare (unähnliche Beispiele) auseinandergehalten werden.
Typische Ansätze nutzen Verlustfunktionen wie den Triplet Loss oder den InfoNCE-Loss, um die Abstände im Merkmalsraum zu optimieren.
Kontrastives Lernen ist besonders effektiv bei Self-Supervised Learning, da es ohne explizite Labels auskommt und robuste Merkmale für weitere Aufgaben wie Klassifikation oder Clustering erzeugt.
Bekannte Anwendungen finden sich in der Bildverarbeitung, Sprachverarbeitung und bei der Vortrainierung neuronaler Netze.