Denoising Diffusion Probabilistic Models

คู่มือการอ่าน

ปัญหาและแรงจูงใจ

แม้ว่า diffusion probabilistic models จะถูกนำเสนอเป็นครั้งแรกโดย Sohl-Dickstein et al. (2015) โดยอิงตามอุณหพลศาสตร์ที่ไม่สมดุล แต่โมเดลรุ่นแรกๆ ยังมีคุณภาพความคมชัดของภาพตามหลังสถาปัตยกรรมกลุ่ม GAN และ autoregressive อยู่มาก โมเดลเหล่านี้มักถูกมองว่าทำงานช้า ปรับจูนได้ยาก และยังไม่ได้รับการพิสูจน์กับชุดข้อมูลภาพธรรมชาติที่มีความละเอียดสูงและซับซ้อน ผู้เขียนจึงตั้งใจที่จะกลับมาศึกษาโมเดล diffusion ใหม่อีกครั้ง โดยการสร้างความเชื่อมโยงเชิงทฤษฎีระหว่างฟังก์ชันเป้าหมายแบบ variational ของโมเดลเข้ากับ score matching ด้วย Langevin dynamics พร้อมทั้งแสดงให้เห็นว่า หากกำหนดการตั้งค่าพารามิเตอร์และฟังก์ชันเป้าหมายที่เหมาะสม โมเดล diffusion จะสามารถสร้างตัวอย่างที่มีคุณภาพระดับ state-of-the-art ทางการรับรู้ได้

แนวคิดสำคัญ

• Noise-Prediction Parameterization: แทนที่จะทำนายค่าเฉลี่ยแบบ posterior ${\tilde{\mathbf{\mu }}}_t$ โดยตรง โครงข่ายประสาทในกระบวนการย้อนกลับ ${\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)$ จะถูกเทรนให้ทำนายเวกเตอร์สัญญาณรบกวนมาตรฐานแบบ Gaussian $\mathbf{ϵ}$ ที่ยังไม่ได้ปรับสเกล ซึ่งถูกเติมเข้าไปในขั้นตอนขาหน้า
• ความเชื่อมโยงกับ Denoising Score Matching: Denoising diffusion จะเทียบเท่ากับ denoising score matching ในหลากหลายระดับสเกลของสัญญาณรบกวน ในขณะที่ลูกโซ่ย้อนกลับที่เรียนรู้ขึ้นจะทำหน้าที่เป็น annealed Langevin dynamics sampler ที่ได้มาจากการอนุมานเชิงแปรผัน (variational inference)
• ฟังก์ชันการสูญเสียแบบลดรูป ($L_{\mathrm{simple}}$): การตัดการถ่วงน้ำหนักที่ขึ้นกับค่าความแปรปรวนอย่างเข้มงวดออกจาก variational lower bound ทำให้ได้ฟังก์ชันการสูญเสีย MSE แบบไม่ถ่วงน้ำหนัก ซึ่งจะลดน้ำหนักที่ระดับสัญญาณรบกวนต่ำ ($t\approx 1$) และบังคับให้โมเดลโฟกัสไปที่โครงสร้างหยาบที่มีความสำคัญต่อการรับรู้ของมนุษย์
• มุมมอง Progressive Lossy Compression: ผลการวิเคราะห์แสดงให้เห็นว่ามากกว่าครึ่งหนึ่งของความยาวรหัสแบบไม่สูญเสียข้อมูล (lossless codelength) ของโมเดล เป็นตัวแทนของสัญญาณรบกวนระดับพิกเซลความถี่สูงที่มองไม่เห็นด้วยตาเปล่า ซึ่งหมายความว่าโมเดล diffusion จะออปติไมซ์ความสัมพันธ์ระหว่าง rate-distortion โดยปริยาย ผ่านการถอดรหัสเนื้อหาภาพรวมก่อน จากนั้นจึงค่อยเติมเต็มรายละเอียดพื้นผิวในภายหลัง

วิธีการ

กระบวนการไปข้างหน้า (forward process) จะค่อยๆ ทำลายข้อมูล ${\mathbf{x}}_0$ ทีละขั้นผ่าน $T=1000$ ขั้นตอน โดยใช้ตารางความแปรปรวนคงที่ ${\beta }_1,\dots ,{\beta }_T$: $$q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})=\mathcal{N}({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I})$$ เมื่อใช้ ${\alpha }_t=1-{\beta }_t$ และ ${\bar{\alpha }}_t={\prod }_{s=1}^t{\alpha }_s$ จะสามารถสุ่มตัวแปรแฝงระหว่างกลางได้โดยตรงในรูป closed form: $$q({\mathbf{x}}_t|{\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,(1-{\bar{\alpha }}_t)\mathbf{I})$$

ลูกโซ่ย้อนกลับ $p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)=\mathcal{N}({\mathbf{x}}_{t-1};{\mathbf{\mu }}_{\theta }({\mathbf{x}}_t,t),{\sigma }_t^2\mathbf{I})$ จะกำหนดพารามิเตอร์ของค่าเฉลี่ยเป็น: $${\mathbf{\mu }}_{\theta }({\mathbf{x}}_t,t)=\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)\right)$$ โดยที่ ${\sigma }_t^2$ จะถูกกำหนดให้คงที่ที่ ${\beta }_t$ หรือ ${\tilde{\beta }}_t=\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}{\beta }_t$

โครงข่ายประสาทจะถูกออปติไมซ์โดยใช้ฟังก์ชัน surrogate loss แบบลดรูป: $$L_{\mathrm{simple}}(\theta )={\mathbb{E}}_{t,{\mathbf{x}}_0,\mathbf{ϵ}}\left[{\Vert \mathbf{ϵ}-{\mathbf{ϵ}}_{\theta }(\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}\mathbf{ϵ},t)\Vert }^2\right]$$ โดยที่ $t\sim \text{Uniform}(\{1,\dots ,T\})$ และ $\mathbf{ϵ}\sim \mathcal{N}(0,\mathbf{I})$

การสุ่มตัวอย่างจะดำเนินย้อนกลับจาก ${\mathbf{x}}_T\sim \mathcal{N}(0,\mathbf{I})$ โดยใช้: $${\mathbf{x}}_{t-1}=\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)\right)+{\sigma }_t\mathbf{z}$$ โดยมี $\mathbf{z}\sim \mathcal{N}(0,\mathbf{I})$ สำหรับ $t>1$ และ $\mathbf{z}=0$ เมื่อ $t=1$

ผลการทดลอง

• CIFAR-10: บรรลุค่า Inception Score (IS) แบบไม่มีเงื่อนไขที่ $9.46\pm 0.11$ และ FID ที่ $3.17$ เมื่อใช้ $L_{\mathrm{simple}}$ ซึ่งทำได้ดีกว่าโมเดลร่วมสมัยอย่าง SNGAN (FID 21.7) และ NCSN (FID 25.32)
• การสังเคราะห์ภาพความละเอียดสูง: สามารถสร้างภาพขนาด $256\times 256$ ที่มีความสมจริงบน LSUN (Bedroom FID 4.90, Church FID 7.89, Cat FID 19.75) และ CelebA-HQ ได้สำเร็จ
• Trade-off ระหว่าง Likelihood และคุณภาพ: แม้ว่าการเทรนด้วย variational bound $L$ แบบตรงไปตรงมาจะให้ค่า negative log-likelihood ที่ดีกว่า ($\le 3.70$ bits/dim test) เมื่อเทียบกับ $L_{\mathrm{simple}}$ ($\le 3.75$ bits/dim test) แต่ $L_{\mathrm{simple}}$ กลับทำค่า FID ได้เหนือกว่าอย่างเห็นได้ชัด (3.17 เทียบกับ 13.51)

ข้อจำกัดและคำถามปลายเปิด

• ความเร็วในการสุ่มตัวอย่าง: การสุ่มตัวอย่างจำเป็นต้องประมวลผลผ่านโครงข่ายประสาทเป็นจำนวน $T=1000$ ครั้งติดต่อกันตามลำดับต่อชุดข้อมูลภาพ ทำให้การทำ inference ช้ากว่ากลุ่มโมเดล GAN หรือ flow แบบ single-pass หลายเท่าตัว
• ความสามารถในการแข่งขันด้าน Log-Likelihood: โมเดลยังไม่สามารถเทียบเคียงค่า test likelihood ดิบแบบไม่สูญเสียข้อมูลของโมเดลกลุ่ม autoregressive แท้ๆ ได้ เช่น Sparse Transformers (ซึ่งทำได้ $2.80$ bits/dim บน CIFAR-10)
• การกำหนดตารางความแปรปรวนแบบคงที่: ตารางความแปรปรวนขาหน้า ${\beta }_t$ ถูกกำหนดให้เพิ่มขึ้นแบบเชิงเส้นคงที่แทนที่จะเป็นการเรียนรู้หรือปรับสเกลตามข้อมูล จึงยังมีคำถามปลายเปิดว่าการใช้ตารางแบบไม่เป็นเชิงเส้นหรือพลวัตแบบต่อเนื่องที่เรียนรู้ได้จะช่วยปรับปรุงประสิทธิภาพให้ดียิ่งขึ้นได้หรือไม่