对比散度(英文:Contrastive Divergence,CD)是一种用于有效估计概率模型(如玻尔兹曼机)参数的优化方法。
该方法基于近似计算对数似然函数的梯度,通过从数据分布启动一条仅包含少数步骤的短马尔可夫链,从而捕捉数据分布与模型分布之间的差异。
因此,与精确的最大似然估计相比,计算量显著减少。
对比散度常用于无监督学习模型中,以发现数据中的潜在结构并加速训练。
特别是在受限玻尔兹曼机(RBMs)中,CD 是高效学习权重矩阵的标准方法。