Diffusionsmodelle sind generative Modelle, die Daten durch einen stufenweisen Prozess erzeugen, bei dem zuerst Rauschen hinzugefügt und dann schrittweise entfernt wird.
Der Trainingsprozess besteht darin, ein Modell zu trainieren, das lernt, den Umkehrprozess der Diffusion durchzuführen, also das Entfernen von Rauschen, um aus einem verrauschten Bild ein realistisches Original zu rekonstruieren.
Typischerweise wird ein Markov-Prozess verwendet, der in mehreren Schritten das Rauschen in den Daten erhöht und das Modell lernt, diesen Prozess umzukehren.
Diese Technik ermöglicht die Erzeugung hochqualitativer und vielfältiger Daten, wie z.B. Bilder, Audio oder Texte.
Bekannte Beispiele sind Denoising Diffusion Probabilistic Models (DDPM) und Score-based Generative Models.