Контрастивные методы обучения — это класс методов самообучения, направленных на обучение представления, при котором похожие точки данных в пространстве признаков находятся близко друг к другу, а непохожие — дальше.
Это обычно реализуется с помощью контрастивной функции потерь, которая использует пары похожих (положительных) и непохожих (отрицательных) примеров.
Известные подходы — SimCLR, MoCo или BYOL, которые используют разные стратегии для создания положительных и отрицательных примеров и оптимизации представлений.
Контрастивное обучение позволяет создавать устойчивые векторные представления без явных меток, которые могут использоваться для многих последующих задач, таких как классификация или кластеризация.
Качество представления зависит от выбора положительных и отрицательных пар, а также от архитектуры базовой модели.