Denoising Diffusion Probabilistic Models

Hướng dẫn đọc

Vấn đề và động lực

Mặc dù diffusion probabilistic models ban đầu được giới thiệu bởi Sohl-Dickstein et al. (2015) dựa trên nhiệt động lực học phi cân bằng, các phiên bản ban đầu tụt hậu đáng kể so với GAN và các kiến trúc tự hồi quy về độ chân thực thị giác. Chúng thường bị coi là chậm, khó tinh chỉnh và chưa được chứng minh hiệu quả trên các tập dữ liệu ảnh tự nhiên có độ phân giải cao, phức tạp. Các tác giả đã tiến hành xem xét lại các mô hình khuếch tán bằng cách thiết lập mối liên hệ hình thức giữa hàm mục tiêu biến phân của chúng và score matching với Langevin dynamics, chứng minh rằng với việc tham số hóa và hàm mục tiêu phù hợp, các mô hình khuếch tán có thể đạt được chất lượng mẫu nhận thức tiên tiến nhất.

Ý tưởng cốt lõi

• Tham số hóa dự đoán nhiễu (Noise-Prediction Parameterization): Thay vì dự đoán trực tiếp giá trị trung bình hậu nghiệm ${\tilde{\mathbf{\mu }}}_t$, mạng nơ-ron của quá trình nghịch đảo ${\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)$ được huấn luyện để dự đoán vector nhiễu Gaussian chuẩn không tỷ lệ $\mathbf{ϵ}$ được thêm vào trong bước thuận.
• Mối liên hệ với Denoising Score Matching: Quá trình khuếch tán khử nhiễu tương đương với denoising score matching trên nhiều thang đo nhiễu, trong khi chuỗi nghịch đảo đã học đóng vai trò như một bộ lấy mẫu annealed Langevin dynamics được suy diễn thông qua biến phân.
• Hàm mất mát đơn giản hóa ($L_{\mathrm{simple}}$): Việc loại bỏ trọng số phụ thuộc chặt chẽ vào phương sai từ cận dưới biến phân tạo ra hàm mất mát MSE không trọng số giúp giảm trọng số ở các mức nhiễu thấp ($t\approx 1$), buộc mô hình tập trung vào các cấu trúc thô mang tính quyết định về mặt nhận thức thị giác.
• Góc nhìn nén có tổn hao lũy tiến (Progressive Lossy Compression View): Phân tích cho thấy hơn một nửa độ dài mã không tổn hao của mô hình biểu diễn nhiễu điểm ảnh tần số cao không thể cảm nhận được bằng mắt thường, nghĩa là các mô hình khuếch tán đã tối ưu hóa rate-distortion một cách tiềm ẩn bằng cách giải mã nội dung tổng thể trước khi lấp đầy các chi tiết kết cấu mịn.

Phương pháp

Quá trình thuận làm suy giảm dữ liệu ${\mathbf{x}}_0$ một cách tăng dần qua $T=1000$ bước với một lịch trình phương sai cố định ${\beta }_1,\dots ,{\beta }_T$: $$q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})=\mathcal{N}({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I})$$ Sử dụng ${\alpha }_t=1-{\beta }_t$ và ${\bar{\alpha }}_t={\prod }_{s=1}^t{\alpha }_s$, các biến ẩn trung gian có thể được lấy mẫu trực tiếp ở dạng đóng: $$q({\mathbf{x}}_t|{\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,(1-{\bar{\alpha }}_t)\mathbf{I})$$

Chuỗi nghịch đảo $p_{\theta }({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)=\mathcal{N}({\mathbf{x}}_{t-1};{\mathbf{\mu }}_{\theta }({\mathbf{x}}_t,t),{\sigma }_t^2\mathbf{I})$ tham số hóa kỳ vọng dưới dạng: $${\mathbf{\mu }}_{\theta }({\mathbf{x}}_t,t)=\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)\right)$$ trong đó ${\sigma }_t^2$ được cố định thành ${\beta }_t$ hoặc ${\tilde{\beta }}_t=\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}{\beta }_t$.

Mạng được tối ưu hóa bằng hàm mất mát đại diện đơn giản hóa: $$L_{\mathrm{simple}}(\theta )={\mathbb{E}}_{t,{\mathbf{x}}_0,\mathbf{ϵ}}\left[{\Vert \mathbf{ϵ}-{\mathbf{ϵ}}_{\theta }(\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}\mathbf{ϵ},t)\Vert }^2\right]$$ trong đó $t\sim \text{Uniform}(\{1,\dots ,T\})$ và $\mathbf{ϵ}\sim \mathcal{N}(0,\mathbf{I})$.

Quá trình lấy mẫu tiến hành ngược từ ${\mathbf{x}}_T\sim \mathcal{N}(0,\mathbf{I})$ bằng cách sử dụng: $${\mathbf{x}}_{t-1}=\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }({\mathbf{x}}_t,t)\right)+{\sigma }_t\mathbf{z}$$ với $\mathbf{z}\sim \mathcal{N}(0,\mathbf{I})$ khi $t>1$, và $\mathbf{z}=0$ khi $t=1$.

Kết quả

• CIFAR-10: Đạt Inception Score (IS) không điều kiện là $9,46\pm 0,11$ và FID là $3,17$ khi sử dụng $L_{\mathrm{simple}}$, vượt trội hơn các mô hình cùng thời như SNGAN (FID 21,7) và NCSN (FID 25,32).
• Tổng hợp độ phân giải cao: Tạo thành công ảnh $256\times 256$ chân thực trên LSUN (Bedroom FID 4,90, Church FID 7,89, Cat FID 19,75) và CelebA-HQ.
• Sự đánh đổi giữa Likelihood và Chất lượng: Mặc dù huấn luyện với cận biến phân chính xác $L$ cho negative log-likelihood tốt hơn ($\le 3,70$ bits/dim trên tập kiểm thử) so với $L_{\mathrm{simple}}$ ($\le 3,75$ bits/dim), nhưng $L_{\mathrm{simple}}$ lại đạt điểm số FID vượt trội hơn rất nhiều (3,17 so với 13,51).

Hạn chế và các câu hỏi mở

• Tốc độ lấy mẫu: Việc lấy mẫu đòi hỏi phải tính toán qua mạng nơ-ron $T=1000$ lần tuần tự cho mỗi batch ảnh, khiến tốc độ suy luận chậm hơn nhiều bậc độ lớn so với GAN hoặc các mô hình flow đơn lượt.
• Khả năng cạnh tranh về Log-Likelihood: Các mô hình này chưa thể sánh được với log-likelihood kiểm thử không tổn hao gốc của các mô hình tự hồi quy thuần túy như Sparse Transformers (đạt $2,80$ bits/dim trên CIFAR-10).
• Lịch trình phương sai cố định: Lịch trình phương sai quá trình thuận ${\beta }_t$ được cố định tuyến tính thay vì được học hoặc điều chỉnh thích ứng, để ngỏ câu hỏi liệu các lịch trình phi tuyến hoặc động lực liên tục có thể mang lại những cải tiến tốt hơn hay không.