Лекция 5 — Энергетические модели | Функция оценки (Score Function) | Принципы диффузионных моделей

В предыдущих главах мы проследили диффузионные модели до их вариационных корней и показали, как они возникают в рамках вариационных автомодельных моделей (ВАЭ). Теперь мы переходим ко второй, столь же фундаментальной точке зрения: энергетическим моделям (ЭМ). ЭМ представляет собой распределение, заданное энергетическим ландшафтом, в котором мало данных, а в других местах много. Выборка обычно основана на динамике Ланжевена, которая перемещает выборки в области высокой плотности, следуя градиенту этого ландшафта. Это градиентное поле, известное как оценка, указывает на направления с более высокой вероятностью. Главное наблюдение заключается в том, что знания оценки достаточно для генерации: она перемещает выборки в вероятные области без вычисления трудноразрешимой константы нормализации.