Denoising Diffusion Probabilistic Models

論文解説

問題設定と動機

拡散確率モデルはもともとSohl-Dicksteinら（2015）によって非平衡熱力学に基づいて導入されたが、初期の研究では視覚的リアリティの面でGANや自己回帰モデルに大きく遅れをとっていた。一般に生成が遅く、調整が難しく、複雑で高解像度な自然画像データセットでは実用性が証明されていないと考えられていた。著者らは、変分目的関数とランジュバン動力学を伴うスコアマッチングとの形式的な関連性を確立することで拡散モデルを再検討し、適切なパラメータ化と目的関数を用いれば、拡散モデルが知覚的サンプル品質において最先端を達成できることを実証しようとした。

主要なアイデア

• ノイズ予測のパラメータ化: 事後平均${\tilde{\mathbf{\mu }}}_t$を直接予測するのではなく、逆過程のニューラルネットワーク${\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)$を訓練し、前向きステップで加えられたスケール調整前の標準ガウスノイズベクトル$\mathbf{ϵ}$を予測する。
• デノイジングスコアマッチングとの関連性: デノイジング拡散は複数のノイズスケールにわたるデノイジングスコアマッチングと一致し、学習された逆過程の連鎖は変分推論を介して導出されたアニーリングされたランジュバン動力学サンプラーとして機能する。
• 簡略化された損失関数（$L_{\mathrm{simple}}$）: 変分下界から厳密な分散依存の重み付けを排除することで、低ノイズレベル（$t\approx 1$）の重みを小さくした重みなしMSE損失が生成され、知覚的に重要な粗い構造にモデルを集中させることができる。
• 段階的非可逆圧縮の視点: 分析の結果、モデルの可逆符号長の半分以上が知覚不能な高周波ピクセルノイズを表していることが判明した。これは拡散モデルが、細部テクスチャを埋める前に大域的なコンテンツを先に復号することで、暗黙的にレート・歪みを最適化していることを意味する。

手法

前向き過程は、固定された分散スケジュール${\beta }_1,\dots ,{\beta }_T$を用いて、$T=1000$ステップにわたってデータ${\mathbf{x}}_0$を段階的に破壊する: $$q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})=\mathcal{N}({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I})$$ ${\alpha }_t=1-{\beta }_t$および${\bar{\alpha }}_t={\prod }_{s=1}^t{\alpha }_s$を用いることで、中間潜在変数は閉形式で直接サンプリングできる: $$q({\mathbf{x}}_t|{\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,(1-{\bar{\alpha }}_t)\mathbf{I})$$

逆過程の連鎖$p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)=\mathcal{N}({\mathbf{x}}_{t-1};{\mathbf{\mu }}_{\theta }({\mathbf{x}}_t,t),{\sigma }_t^2\mathbf{I})$は、平均を以下のようにパラメータ化する: $${\mathbf{\mu }}_{\theta }({\mathbf{x}}_t,t)=\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)\right)$$ ここで、${\sigma }_t^2$は${\beta }_t$または${\tilde{\beta }}_t=\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}{\beta }_t$のいずれかに固定される。

ネットワークは簡略化された代替損失を用いて最適化される: $$L_{\mathrm{simple}}(\theta )={\mathbb{E}}_{t,{\mathbf{x}}_0,\mathbf{ϵ}}\left[{\Vert \mathbf{ϵ}-{\mathbf{ϵ}}_{\theta }(\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}\mathbf{ϵ},t)\Vert }^2\right]$$ ここで、$t\sim \text{Uniform}(\{1,\dots ,T\})$、$\mathbf{ϵ}\sim \mathcal{N}(0,\mathbf{I})$である。

サンプリングは${\mathbf{x}}_T\sim \mathcal{N}(0,\mathbf{I})$から以下を用いて逆方向に進められる: $${\mathbf{x}}_{t-1}=\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)\right)+{\sigma }_t\mathbf{z}$$ ただし、$t>1$のときは$\mathbf{z}\sim \mathcal{N}(0,\mathbf{I})$、$t=1$のときは$\mathbf{z}=0$である。

結果

• CIFAR-10: $L_{\mathrm{simple}}$を用いて無条件Inception Score（IS）$9.46\pm 0.11$、FID $3.17$を達成し、同時代のSNGAN（FID 21.7）やNCSN（FID 25.32）を上回った。
• 高解像度合成: LSUN（Bedroom FID 4.90、Church FID 7.89、Cat FID 19.75）およびCelebA-HQにおいて、$256\times 256$のリアルな画像の生成に成功した。
• 尤度と品質のトレードオフ: 厳密な変分下界$L$で学習すると$L_{\mathrm{simple}}$（テスト時 $\le 3.75$ bits/dim）よりも優れた負の対数尤度（テスト時 $\le 3.70$ bits/dim）が得られたが、FIDスコアは$L_{\mathrm{simple}}$の方が圧倒的に優れていた（3.17対13.51）。

限界と未解決の課題

• サンプリング速度: 1つの画像バッチをサンプリングするためにニューラルネットワークを逐次的に$T=1000$回評価する必要があり、GANや1パスのフローモデルと比較して推論が桁違いに遅い。
• 競争力のある対数尤度: Sparse Transformersなどの純粋な自己回帰モデル（CIFAR-10で$2.80$ bits/dimを達成）の厳密な可逆テスト尤度には及ばない。
• 固定分散スケジュール: 前向き分散スケジュール${\beta }_t$は学習や適応的スケーリングを行わず線形に固定されており、非線形スケジュールや学習された連続ダイナミクスによってさらなる向上が得られるかは未解決のままである。