El aprendizaje auto-supervisado con métodos contrastivos utiliza la idea de que un modelo aprende a colocar puntos de datos similares más cerca y puntos no similares más lejos en el espacio de características.
Normalmente se generan pares de datos, por ejemplo, diferentes vistas de la misma imagen, llamados pares positivos, así como otras imágenes aleatorias como pares negativos.
El modelo se entrena para maximizar las representaciones de los pares positivos y minimizar las de los pares negativos.
Algoritmos populares son SimCLR, MoCo o BYOL, que utilizan diferentes estrategias para generar pares de datos y para estabilizar el entrenamiento.
Este procedimiento permite aprender características robustas y generalizables que pueden ser utilizadas para muchas tareas posteriores sin grandes ajustes.