Kontrastive Lernverfahren sind eine Klasse von selbstüberwachten Lernmethoden, die darauf abzielen, eine Repräsentation zu lernen, bei der ähnliche Datenpunkte im Merkmalsraum nahe beieinander liegen und unähnliche weiter entfernt.
Dies wird meist durch einen Kontrastivverlust realisiert, der Paare von ähnlichen (positiven) und unähnlichen (negativen) Beispielen nutzt.
Bekannte Ansätze sind SimCLR, MoCo oder BYOL, die unterschiedliche Strategien verwenden, um positive und negative Beispiele zu erzeugen und die Repräsentationen zu optimieren.
Kontrastives Lernen ermöglicht es, ohne explizite Labels robuste Merkmalsvektoren zu erzeugen, die für viele nachfolgende Aufgaben wie Klassifikation oder Clustering verwendet werden können.
Die Qualität der Repräsentation hängt von der Auswahl der positiven und negativen Paare sowie von der Architektur des zugrundeliegenden Modells ab.