Auto-Encoding Variational Bayes

Panduan membaca

Masalah dan motivasi

Model probabilistik terarah dengan variabel laten kontinu $\mathbf{z}$ sangat berguna untuk pemodelan generatif, pembelajaran representasi tanpa pengawasan (unsupervised representation learning), dan inferensi marjinal. Namun, mempelajarinya melalui metode maximum likelihood atau Bayesian menghadapi kendala komputasi yang berat ketika:

1. Posterior intractability: Untuk hubungan non-linear (misalnya, deep neural network), integral marginal likelihood $p_{\mathbf{\theta }}(\mathbf{x})=\int p_{\mathbf{\theta }}(\mathbf{z})p_{\mathbf{\theta }}(\mathbf{x}|\mathbf{z})d\mathbf{z}$ dan posterior $p_{\mathbf{\theta }}(\mathbf{z}|\mathbf{x})$ tidak memiliki solusi analitis bentuk tertutup (closed-form), sehingga Expectation-Maximization (EM) standar dan mean-field variational Bayes tidak dapat diterapkan.
2. Dataset besar: Pendekatan sampling tradisional seperti Monte Carlo EM memerlukan sampling MCMC yang lambat dan berulang per titik data di seluruh dataset, membuat optimasi mini-batch skala besar menjadi sangat mahal secara komputasi.

Estimator gradien score-function naif standar ${\nabla }_{\mathbf{\varphi }}{\mathbb{E}}_{q_{\mathbf{\varphi }}(\mathbf{z})}[f(\mathbf{z})]$ menunjukkan variansi yang sangat tinggi, menghambat optimasi yang andal dengan stochastic gradient ascent.

Ide utama

• Reparameterization Trick: Alih-alih mengambil sampel $\mathbf{z}$ langsung dari distribusi terparameterisasi yang intractable $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$, variabel tersebut ditulis ulang sebagai transformasi deterministik dari variabel derau independen $\mathbf{ϵ}\sim p(\mathbf{ϵ})$: $\mathbf{z}=g_{\mathbf{\varphi }}(\mathbf{ϵ},\mathbf{x})$. Hal ini memungkinkan diferensiasi terhadap $\mathbf{\varphi }$ melalui backpropagation standar dengan variansi yang berkurang secara dramatis.
• Amortized Inference (Recognition Model): Alih-alih mengoptimalkan parameter variasional per titik data, sebuah neural network enkoder $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ memprediksi parameter variasional (seperti rata-rata dan variansi dari Gaussian laten) yang dikondisikan pada $\mathbf{x}$.
• Auto-Encoding Variational Bayes (AEVB): Mengoptimalkan secara bersamaan parameter generatif $\mathbf{\theta }$ (dekoder probabilistik) dan parameter variasional $\mathbf{\varphi }$ (enkoder probabilistik) menggunakan stochastic gradient ascent pada variational lower bound yang telah direparametrisasi.

Metode

Tujuan variasional ini memaksimalkan Evidence Lower Bound (ELBO) $\mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})$: $$\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)})\ge \mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})=-D_{KL}(q_{\mathbf{\varphi }}(\mathbf{z}|{\mathbf{x}}^{(i)})\parallel p_{\mathbf{\theta }}(\mathbf{z}))+{\mathbb{E}}_{q_{\mathbf{\varphi }}(\mathbf{z}|{\mathbf{x}}^{(i)})}\left[\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)}|\mathbf{z})\right]$$

Dengan menerapkan reparameterization trick ${\mathbf{z}}^{(i,l)}=g_{\mathbf{\varphi }}({\mathbf{ϵ}}^{(i,l)},{\mathbf{x}}^{(i)})$ dengan ${\mathbf{ϵ}}^{(i,l)}\sim p(\mathbf{ϵ})$, estimator generik SGVB (Estimator A) adalah: $${\tilde{\mathcal{L}}}^A(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})=\frac{1}{L}\sum _{l=1}^L\left[\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)},{\mathbf{z}}^{(i,l)})-\log q_{\mathbf{\varphi }}({\mathbf{z}}^{(i,l)}|{\mathbf{x}}^{(i)})\right]$$

Ketika prior $p_{\mathbf{\theta }}(\mathbf{z})=\mathcal{N}(0,\mathbf{I})$ dan posterior perkiraan $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})=\mathcal{N}(\mathbf{\mu },{\mathbf{\sigma }}^2\mathbf{I})$ berbentuk Gaussian, divergensi KL dapat dihitung secara analitis, menghasilkan Estimator B: $$\mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})\simeq \frac{1}{2}\sum _{j=1}^J\left(1+\log (({\sigma }_j^{(i)}{)}^2)-({\mu }_j^{(i)}{)}^2-({\sigma }_j^{(i)}{)}^2\right)+\frac{1}{L}\sum _{l=1}^L\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)}|{\mathbf{z}}^{(i,l)})$$ di mana ${\mathbf{z}}^{(i,l)}={\mathbf{\mu }}^{(i)}+{\mathbf{\sigma }}^{(i)}\odot {\mathbf{ϵ}}^{(l)}$ dan ${\mathbf{ϵ}}^{(l)}\sim \mathcal{N}(0,\mathbf{I})$.

Untuk mini-batch berukuran $M$, estimator batas bawah penuh adalah: $${\tilde{\mathcal{L}}}^M(\mathbf{\theta },\mathbf{\varphi };{\mathbf{X}}^M)=\frac{N}{M}\sum _{i=1}^M\tilde{\mathcal{L}}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})$$ Dalam praktiknya, menetapkan $L=1$ sampel per titik data sudah cukup jika dipadukan dengan ukuran mini-batch seperti $M=100$.

Hasil

• Pengaturan Model: Model generatif dievaluasi pada MNIST (dekoder MLP Bernoulli, 500 unit tersembunyi) dan Frey Face (dekoder MLP Gaussian, 200 unit tersembunyi), dioptimalkan melalui Adagrad dengan learning rate dalam $\{0.01,0.02,0.1\}$ dan weight decay.
• Optimasi Lower Bound: Di berbagai dimensionalitas laten ($N_{\mathbf{z}}\in \{2,5,10,20,400\}$ pada Frey Face dan MNIST), AEVB konvergen jauh lebih cepat dan mencapai batas bawah yang lebih tinggi daripada algoritma wake-sleep.
• Ketahanan terhadap Overfitting: Peningkatan dimensionalitas $\mathbf{z}$ tidak menyebabkan overfitting berkat efek regularisasi dari suku divergensi KL analitis terhadap prior.
• Estimasi Marginal Likelihood: Pada eksperimen MNIST ruang laten 3 dimensi menggunakan estimator marginal likelihood berbasis HMC, AEVB konvergen lebih cepat daripada wake-sleep dan jauh melampaui kelayakan Monte Carlo EM (yang terlalu lambat untuk dijalankan pada dataset MNIST penuh).
• Waktu Eksekusi: Pelatihan memakan waktu sekitar 20–40 menit per satu juta sampel pada CPU Intel Xeon (~40 GFLOPS).

Keterbatasan dan pertanyaan terbuka

• Variabel Laten Kontinu: Reparameterization trick secara langsung bergantung pada diferensiabilitas terhadap parameter, sehingga tidak mudah diterapkan secara langsung pada distribusi variabel laten diskret.
• Approximation Gap: Mengasumsikan distribusi Gaussian diagonal untuk $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ membatasi kapasitas ekspresif ketika posterior sebenarnya bersifat multimodal atau memiliki korelasi kuat.
• Perluasan ke Full Variational Bayes: Evaluasi empiris berfokus pada estimasi parameter MAP/ML untuk $\mathbf{\theta }$; inferensi variasional atas parameter global $\mathbf{\theta }$ telah diformulasikan dalam lampiran tetapi diserahkan untuk validasi empiris di masa depan.