Codificación contrastiva explicada para avanzados


La codificación contrastiva es un método de aprendizaje en el que un modelo se entrena para mapear representaciones de puntos de datos similares más cerca y de puntos disímiles más lejos en el espacio de características.

Normalmente se utilizan pares de ejemplos: pares positivos (similares) y pares negativos (diferentes).

El modelo optimiza una función de pérdida, como la pérdida contrastiva o la pérdida InfoNCE, para imponer esta estructura.

Esta técnica se aplica frecuentemente en enfoques de aprendizaje auto-supervisado para generar vectores de características robustos y significativos que luego pueden usarse para clasificación u otras tareas.

Un ejemplo son las representaciones de imágenes o texto, donde diferentes vistas o transformaciones del mismo objeto se consideran positivas.