对比学习方法是一类自监督学习方法,旨在学习一种表示,使得相似的数据点在特征空间中彼此靠近,而不相似的数据点则相距较远。
这通常通过对比损失实现,该损失利用相似(正)和不相似(负)样本对。
知名的方法有SimCLR、MoCo或BYOL,它们采用不同的策略来生成正负样本并优化表示。
对比学习使得无需显式标签即可生成鲁棒的特征向量,这些向量可用于许多后续任务,如分类或聚类。
表示的质量取决于正负样本对的选择以及基础模型的架构。