Denoising Diffusion Probabilistic Models

Guía de lectura

Problema y motivación

Aunque los diffusion probabilistic models fueron introducidos originalmente por Sohl-Dickstein et al. (2015) a partir de la termodinámica de no equilibrio, sus primeras iteraciones quedaron significativamente por detrás de las GAN y las arquitecturas autorregresivas en fidelidad visual. Por lo general, se percibían como lentos, difíciles de ajustar y no probados en conjuntos de datos complejos de imágenes naturales de alta resolución. Los autores se propusieron reexaminar los modelos de difusión estableciendo una conexión formal entre sus objetivos variacionales y el score matching con dinámica de Langevin, demostrando que con una parametrización y objetivos adecuados, los modelos de difusión pueden alcanzar una calidad de muestreo perceptual de vanguardia.

Ideas clave

• Parametrización por predicción de ruido: En lugar de predecir la media posterior ${\tilde{\mathbf{\mu }}}_t$ directamente, la red neuronal del proceso inverso ${\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)$ se entrena para predecir el vector de ruido gaussiano estándar no escalado $\mathbf{ϵ}$ añadido durante el paso hacia adelante.
• Conexión con Denoising Score Matching: La difusión de eliminación de ruido coincide con el denoising score matching a través de múltiples escalas de ruido, mientras que la cadena inversa aprendida actúa como un muestreador por dinámica de Langevin recocida derivado mediante inferencia variacional.
• Función de pérdida simplificada ($L_{\mathrm{simple}}$): Descartar la ponderación estricta dependiente de la varianza del límite inferior variacional produce una pérdida MSE no ponderada que resta peso a los niveles de ruido bajos ($t\approx 1$), obligando al modelo a centrarse en estructuras gruesas perceptualmente críticas.
• Perspectiva de compresión progresiva con pérdidas: El análisis revela que más de la mitad de la longitud de código sin pérdidas del modelo representa ruido de píxeles imperceptible de alta frecuencia, lo que significa que los modelos de difusión optimizan implícitamente la tasa-distorsión al decodificar primero el contenido global antes de rellenar la textura fina.

Método

El proceso hacia adelante corrompe incrementalmente los datos ${\mathbf{x}}_0$ a lo largo de $T=1000$ pasos con un programa de varianza fijo ${\beta }_1,\dots ,{\beta }_T$: $$q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})=\mathcal{N}({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I})$$ Usando ${\alpha }_t=1-{\beta }_t$ y ${\bar{\alpha }}_t={\prod }_{s=1}^t{\alpha }_s$, las variables latentes intermedias pueden muestrearse directamente en forma cerrada: $$q({\mathbf{x}}_t|{\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,(1-{\bar{\alpha }}_t)\mathbf{I})$$

La cadena inversa $p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)=\mathcal{N}({\mathbf{x}}_{t-1};{\mathbf{\mu }}_{\theta }({\mathbf{x}}_t,t),{\sigma }_t^2\mathbf{I})$ parametriza la media como: $${\mathbf{\mu }}_{\theta }({\mathbf{x}}_t,t)=\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)\right)$$ donde ${\sigma }_t^2$ se fija a ${\beta }_t$ o a ${\tilde{\beta }}_t=\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}{\beta }_t$.

La red se optimiza utilizando la pérdida sustituta simplificada: $$L_{\mathrm{simple}}(\theta )={\mathbb{E}}_{t,{\mathbf{x}}_0,\mathbf{ϵ}}\left[{\Vert \mathbf{ϵ}-{\mathbf{ϵ}}_{\theta }(\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}\mathbf{ϵ},t)\Vert }^2\right]$$ donde $t\sim \text{Uniform}(\{1,\dots ,T\})$ y $\mathbf{ϵ}\sim \mathcal{N}(0,\mathbf{I})$.

El muestreo se realiza hacia atrás desde ${\mathbf{x}}_T\sim \mathcal{N}(0,\mathbf{I})$ mediante: $${\mathbf{x}}_{t-1}=\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)\right)+{\sigma }_t\mathbf{z}$$ con $\mathbf{z}\sim \mathcal{N}(0,\mathbf{I})$ para $t>1$, y $\mathbf{z}=0$ cuando $t=1$.

Resultados

• CIFAR-10: Se alcanzó un Inception Score (IS) no condicional de $9.46\pm 0.11$ y un FID de $3.17$ utilizando $L_{\mathrm{simple}}$, superando a modelos contemporáneos como SNGAN (FID 21.7) y NCSN (FID 25.32).
• Síntesis en alta resolución: Se generaron con éxito imágenes realistas de $256\times 256$ en LSUN (Bedroom FID 4.90, Church FID 7.89, Cat FID 19.75) y CelebA-HQ.
• Compromiso entre verosimilitud y calidad: Aunque el entrenamiento con el límite variacional exacto $L$ proporcionó mejores log-verosimilitudes negativas ($\le 3.70$ bits/dim en prueba) que $L_{\mathrm{simple}}$ ($\le 3.75$ bits/dim en prueba), $L_{\mathrm{simple}}$ alcanzó puntuaciones de FID ampliamente superiores (3.17 frente a 13.51).

Limitaciones y preguntas abiertas

• Velocidad de muestreo: El muestreo requiere evaluar la red neuronal $T=1000$ veces de forma secuencial por lote de imágenes, lo que hace que la inferencia sea órdenes de magnitud más lenta que con GANs o modelos de flujo de una sola pasada.
• Log-verosimilitudes competitivas: Los modelos no igualan las log-verosimilitudes puras de prueba sin pérdidas de modelos totalmente autorregresivos como Sparse Transformers (que lograron $2.80$ bits/dim en CIFAR-10).
• Programa de varianza fijo: El programa de varianza hacia adelante ${\beta }_t$ se fijó de manera lineal en lugar de aprenderse o escalarse adaptativamente, dejando abierta la cuestión de si los programas no lineales o las dinámicas continuas aprendidas podrían aportar mayores mejoras.