Kontrastive Divergenz (engl. Contrastive Divergence, CD) ist ein Optimierungsverfahren zur effizienten Schätzung der Parameter in probabilistischen Modellen wie Boltzmann-Maschinen.
Das Verfahren basiert darauf, den Gradienten der Log-Likelihood-Funktion approximativ zu berechnen, indem eine kurze Markov-Kette nur wenige Schritte aus einer Datenverteilung startet und so die Differenz zwischen der Datenverteilung und der Modellverteilung erfasst wird.
Dadurch wird der Aufwand im Vergleich zu exakter Maximum-Likelihood-Schätzung deutlich reduziert.
Kontrastive Divergenz wird häufig in unüberwachten Lernmodellen eingesetzt, um latente Strukturen in Daten zu entdecken und das Training zu beschleunigen.
Besonders in Restricted Boltzmann Machines (RBMs) ist CD ein Standardverfahren für das effiziente Lernen der Gewichtsmatrix.