Математика диффузионных моделей

DDPM - Denoising Diffusion Probabilistic Models или диффузионные модели, основанные на марковских процессах, сейчас как никогда актуальный инструмент генерации изображений. В этом видео рассмотрим математические основания простейшего алгоритма тренировки и семплинга на примере аниме картинок. Кагл ноутбук с пайплайном обучения и инференса на торче: https://www.kaggle.com/code/ivanrad17/diffusion-anime Статья Apple: https://arxiv.org/pdf/2406.08929 #diffusion #diffusionmodels #maths #probability #mathanalysis #shiz #поступашки Chapters: 00:00 Интро 00:47 Приветствие 01:12 О чем видео/DDPM 02:25 Распределение Аниме картинок 05:40 Иллюстрация многомерных распределений 08:10 Основная идея DDPM сетей 08:35 Прямой проход| FP 09:58 ЦПТ Линдеберга 10:50 Обратный проход| BP 11:50 Лемма о близости условной вероятности к нормальной в BP 12:22 KL-дивергенция 15:06 Постановка оптимизационной задачи 16:07 Условное матожидание 17:08 U-net 18:26 Иллюстрация BP 18:52 Алгоритм обучения 20:24 Алгоритм семплинга 20:58 Заключение