Les modèles de diffusion sont des modèles génératifs qui produisent des données par un processus progressif, où du bruit est d'abord ajouté puis progressivement retiré.
Le processus d'entraînement consiste à entraîner un modèle à apprendre à effectuer le processus inverse de la diffusion, c’est-à-dire à retirer le bruit pour reconstruire une image réaliste à partir d'une image bruitée.
Typiquement, un processus de Markov est utilisé, qui augmente le bruit dans les données en plusieurs étapes, et le modèle apprend à inverser ce processus.
Cette technique permet la génération de données de haute qualité et diversifiées, telles que des images, de l'audio ou des textes.
Des exemples connus sont les modèles probabilistes de diffusion pour la réduction de bruit (DDPM) et les modèles génératifs basés sur le score.