Denoising Diffusion Probabilistic Models

دليل القراءة

المشكلة والدوافع

على الرغم من أن نماذج الانتشار الاحتمالية قُدمت في الأصل بواسطة Sohl-Dickstein et al. (2015) استناداً إلى الديناميكا الحرارية غير المتوازنة، إلا أن إصداراتها الأولى تخلفت كثيراً عن نماذج GANs والبنى التوليدية الذاتية من حيث الدقة البصرية. وكان يُنظر إليها عموماً على أنها بطيئة، وصعبة الضبط، وغير مجربة على مجموعات بيانات معقدة وعالية الدقة للصور الطبيعية. عزم المؤلفون على إعادة فحص نماذج الانتشار عبر إرساء رابط رياضي دقيق بين أهدافها التباينية وطريقة score matching مع Langevin dynamics، مبرهنين على أنه مع التهيئة ودوال الهدف المناسبة، يمكن لنماذج الانتشار تحقيق جودة إدراكية فائقة للعينات تضاهي أحدث ما توصل إليه المجال.

الأفكار الرئيسية

• صياغة التنبؤ بالضوضاء (Noise-Prediction Parameterization): بدلاً من التنبؤ بالمتوسط البعدي ${\tilde{\mathbf{\mu }}}_t$ مباشرة، تُدرَّب الشبكة العصبية للعملية العكسية ${\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)$ على التنبؤ بمتجه الضوضاء الغاوسية القياسية $\mathbf{ϵ}$ المضاف خلال الخطوة الأمامية.
• الارتباط مع Denoising Score Matching: تتطابق عملية انتشار إزالة الضوضاء مع مطابقة الدرجات لإزالة الضوضاء (denoising score matching) عبر مقاييس ضوضاء متعددة، في حين تعمل السلسلة العكسية المتعلمة كمعاين لديناميكيات لانجفان المخففة (annealed Langevin dynamics) المشتقة عبر الاستدلال التبايني.
• دالة الخسارة المبسطة ($L_{\mathrm{simple}}$): ينتج عن التخلي عن الوزن الصارم المعتمد على التباين في الحد التبايني الأدنى دالة خسارة MSE غير موزونة تخفض أوزان مستويات الضوضاء المنخفضة ($t\approx 1$)، مما يجبر النموذج على التركيز على البنى الكلية ذات الأهمية الإدراكية العالية.
• منظور فك الضغط التدريجي بالفقدان: يكشف التحليل أن أكثر من نصف طول الترميز غير المنقوص (lossless codelength) للنموذج يمثل ضوضاء بكسلات عالية التردد غير محسوسة، مما يعني أن نماذج الانتشار تحسن معدل التشويه (rate-distortion) ضمنياً عن طريق فك ترميز المحتوى العام أولاً قبل ملء التفاصيل الدقيقة.

الطريقة

تقوم العملية الأمامية بإفساد البيانات ${\mathbf{x}}_0$ تدريجياً عبر $T=1000$ خطوة بجدول تباين ثابت ${\beta }_1,\dots ,{\beta }_T$: $$q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})=\mathcal{N}({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I})$$ وباستخدام ${\alpha }_t=1-{\beta }_t$ و ${\bar{\alpha }}_t={\prod }_{s=1}^t{\alpha }_s$، يمكن أخذ عينات من المتغيرات الكامنة المتوسطة مباشرة بصيغة مغلقة: $$q({\mathbf{x}}_t|{\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,(1-{\bar{\alpha }}_t)\mathbf{I})$$

تقوم السلسلة العكسية $p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)=\mathcal{N}({\mathbf{x}}_{t-1};{\mathbf{\mu }}_{\theta }({\mathbf{x}}_t,t),{\sigma }_t^2\mathbf{I})$ بصياغة المتوسط كالتالي: $${\mathbf{\mu }}_{\theta }({\mathbf{x}}_t,t)=\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)\right)$$ حيث يُثبت ${\sigma }_t^2$ إما إلى ${\beta }_t$ أو ${\tilde{\beta }}_t=\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}{\beta }_t$.

تُحسَّن الشبكة باستخدام دالة الخسارة البديلة المبسطة: $$L_{\mathrm{simple}}(\theta )={\mathbb{E}}_{t,{\mathbf{x}}_0,\mathbf{ϵ}}\left[{\Vert \mathbf{ϵ}-{\mathbf{ϵ}}_{\theta }(\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}\mathbf{ϵ},t)\Vert }^2\right]$$ حيث $t\sim \text{Uniform}(\{1,\dots ,T\})$ و $\mathbf{ϵ}\sim \mathcal{N}(0,\mathbf{I})$.

تجري عملية التوليد بالعكس انطلاقاً من ${\mathbf{x}}_T\sim \mathcal{N}(0,\mathbf{I})$ باستخدام: $${\mathbf{x}}_{t-1}=\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)\right)+{\sigma }_t\mathbf{z}$$ مع $\mathbf{z}\sim \mathcal{N}(0,\mathbf{I})$ عندما يكون $t>1$، و $\mathbf{z}=0$ عندما يكون $t=1$.

النتائج

• CIFAR-10: تحقيق Inception Score (IS) غير مشروط قدره $9.46\pm 0.11$ ودرجة FID قدرها $3.17$ باستخدام $L_{\mathrm{simple}}$، متفوقاً على النماذج المعاصرة مثل SNGAN (FID 21.7) وNCSN (FID 25.32).
• توليد عالي الدقة: نجاح توليد صور واقعية بدقة $256\times 256$ على مجموعة LSUN (غرف النوم FID 4.90، والكنائس FID 7.89، والقطط FID 19.75) وCelebA-HQ.
• المفاضلة بين الأرجحية وجودة العينات: على الرغم من أن التدريب بالحد التبايني الدقيق $L$ منح سالب لوغاريتم أرجحية أفضل ($\le 3.70$ بت/بعد في الاختبار) مقارنة بـ $L_{\mathrm{simple}}$ ($\le 3.75$ بت/بعد في الاختبار)، إلا أن $L_{\mathrm{simple}}$ حقق نتائج FID أفضل بكثير (3.17 مقابل 13.51).

القيود والأسئلة المفتوحة

• سرعة أخذ العينات: يتطلب أخذ العينات تقييم الشبكة العصبية تسلسلياً $T=1000$ مرة لكل دفعة صور، مما يجعل الاستدلال أبطأ بعدة رتب مقارنة بنماذج GANs أو نماذج التدفق (flow models) ذات التمريرة الواحدة.
• الأرجحية التنافسية: لا تطابق النماذج الأرجحية الاختبارية الخام غير المنقوصة الخاصة بالنماذج التوليدية الذاتية البحتة مثل Sparse Transformers (التي حققت $2.80$ بت/بعد على CIFAR-10).
• جدولة التباين الثابتة: ثُبِّت جدول التباين الأمامي ${\beta }_t$ خطياً بدلاً من تعلمه أو ضبطه تكيفياً، مما يترك الباب مفتوحاً لمعرفة ما إذا كانت الجداول غير الخطية أو الديناميكيات المستمرة المتعلمة ستحقق تحسينات إضافية.