Диффузионные модели — это генеративные модели, которые создают данные через поэтапный процесс, при котором сначала добавляется шум, а затем он постепенно удаляется.
Процесс обучения заключается в тренировке модели, которая учится выполнять обратный процесс диффузии, то есть удалять шум, чтобы из зашумлённого изображения восстановить реалистичное оригинальное.
Обычно используется марковский процесс, который на нескольких шагах увеличивает шум в данных, а модель учится обращать этот процесс.
Эта техника позволяет создавать высококачественные и разнообразные данные, такие как изображения, аудио или тексты.
Известные примеры — Denoising Diffusion Probabilistic Models (DDPM) и Score-based Generative Models.