Auto-Encoding Variational Bayes

Okuma rehberi

Problem ve motivasyon

Sürekli örtük değişkenlere ($\mathbf{z}$) sahip yönlendirilmiş olasılıksal modeller; üretici modelleme, gözetimsiz temsil öğrenimi ve marjinal çıkarım için oldukça kullanışlıdır. Ancak, bunları en çok olabilirlik veya Bayesyen yöntemlerle öğrenmek şu durumlarda ciddi hesaplama zorluklarıyla karşılaşır:

1. Sonsal dağılımın analitik olarak hesaplanamaması (intractability): Doğrusal olmayan ilişkiler için (ör. derin yapay sinir ağları), $p_{\mathbf{\theta }}(\mathbf{x})=\int p_{\mathbf{\theta }}(\mathbf{z})p_{\mathbf{\theta }}(\mathbf{x}|\mathbf{z})d\mathbf{z}$ marjinal olabilirlik integrali ve $p_{\mathbf{\theta }}(\mathbf{z}|\mathbf{x})$ sonsal dağılımı kapalı formda analitik çözümlere sahip değildir; bu da standart Expectation-Maximization (EM) ve ortalama alan varyasyonel Bayes yöntemlerini uygulanamaz kılar.
2. Büyük veri kümeleri: Monte Carlo EM gibi geleneksel örnekleme yaklaşımları, veri kümesindeki her veri noktası için yavaş ve yinelemeli MCMC örneklemesi gerektirir; bu da büyük ölçekli mini yığın (mini-batch) optimizasyonunu aşırı derecede maliyetli hale getirir.

Standart yalın skor-fonksiyonu gradyan kestiricisi ${\nabla }_{\mathbf{\varphi }}{\mathbb{E}}_{q_{\mathbf{\varphi }}(\mathbf{z})}[f(\mathbf{z})]$, aşırı yüksek varyans sergileyerek stokastik gradyan yükselişi (stochastic gradient ascent) ile güvenilir optimizasyon yapılmasını engeller.

Temel fikirler

• Reparameterization Trick (Yeniden Parametreleme Hilesi): $\mathbf{z}$ değişkenini doğrudan parametrelendirilmiş hesaplanamaz bir $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ dağılımından örneklemek yerine, bağımsız bir gürültü değişkeninin $\mathbf{ϵ}\sim p(\mathbf{ϵ})$ deterministik bir dönüşümü olarak yeniden yazılır: $\mathbf{z}=g_{\mathbf{\varphi }}(\mathbf{ϵ},\mathbf{x})$. Bu, standart geri yayılım ile $\mathbf{\varphi }$ parametrelerine göre türev almayı mümkün kılar ve varyansı çarpıcı biçimde azaltır.
• Amortized Inference (İtfaiyeli Çıkarım / Tanıma Modeli): Varyasyonel parametreleri veri noktası başına ayrı ayrı optimize etmek yerine, bir kodlayıcı yapay sinir ağı $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$, $\mathbf{x}$ verisine koşullandırılmış varyasyonel parametreleri (örtük bir Gauss dağılımının ortalaması ve varyansı gibi) tahmin eder.
• Auto-Encoding Variational Bayes (AEVB): Yeniden parametrelendirilmiş varyasyonel alt sınır üzerinde stokastik gradyan yükselişi kullanarak üretici parametreleri $\mathbf{\theta }$ (olasılıksal kod çözücü) ve varyasyonel parametreleri $\mathbf{\varphi }$ (olasılıksal kodlayıcı) ortaklaşa optimize eder.

Yöntem

Varyasyonel amaç, Kanıt Alt Sınırını (Evidence Lower Bound - ELBO) $\mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})$ maksimize eder: $$\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)})\ge \mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})=-D_{KL}(q_{\mathbf{\varphi }}(\mathbf{z}|{\mathbf{x}}^{(i)})\parallel p_{\mathbf{\theta }}(\mathbf{z}))+{\mathbb{E}}_{q_{\mathbf{\varphi }}(\mathbf{z}|{\mathbf{x}}^{(i)})}\left[\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)}|\mathbf{z})\right]$$

${\mathbf{ϵ}}^{(i,l)}\sim p(\mathbf{ϵ})$ olmak üzere ${\mathbf{z}}^{(i,l)}=g_{\mathbf{\varphi }}({\mathbf{ϵ}}^{(i,l)},{\mathbf{x}}^{(i)})$ yeniden parametreleme hilesi uygulandığında, genel SGVB kestiricisi (Kestirici A) şu şekildedir: $${\tilde{\mathcal{L}}}^A(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})=\frac{1}{L}\sum _{l=1}^L\left[\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)},{\mathbf{z}}^{(i,l)})-\log q_{\mathbf{\varphi }}({\mathbf{z}}^{(i,l)}|{\mathbf{x}}^{(i)})\right]$$

Önsel dağılım $p_{\mathbf{\theta }}(\mathbf{z})=\mathcal{N}(0,\mathbf{I})$ ve yaklaşık sonsal dağılım $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})=\mathcal{N}(\mathbf{\mu },{\mathbf{\sigma }}^2\mathbf{I})$ Gauss olduğunda, KL ıraksaması analitik olarak hesaplanabilir ve bu da Kestirici B'yi verir: $$\mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})\simeq \frac{1}{2}\sum _{j=1}^J\left(1+\log (({\sigma }_j^{(i)}{)}^2)-({\mu }_j^{(i)}{)}^2-({\sigma }_j^{(i)}{)}^2\right)+\frac{1}{L}\sum _{l=1}^L\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)}|{\mathbf{z}}^{(i,l)})$$ burada ${\mathbf{z}}^{(i,l)}={\mathbf{\mu }}^{(i)}+{\mathbf{\sigma }}^{(i)}\odot {\mathbf{ϵ}}^{(l)}$ ve ${\mathbf{ϵ}}^{(l)}\sim \mathcal{N}(0,\mathbf{I})$'dir.

$M$ boyutundaki mini yığınlar için tam alt sınır kestiricisi: $${\tilde{\mathcal{L}}}^M(\mathbf{\theta },\mathbf{\varphi };{\mathbf{X}}^M)=\frac{N}{M}\sum _{i=1}^M\tilde{\mathcal{L}}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})$$ Uygulamada, $M=100$ gibi mini yığın boyutlarıyla eşleştirildiğinde veri noktası başına $L=1$ örnek seçmek yeterlidir.

Sonuçlar

• Model Ayarları: Üretici modeller MNIST (Bernoulli MLP kod çözücü, 500 gizli birim) ve Frey Face (Gauss MLP kod çözücü, 200 gizli birim) üzerinde değerlendirilmiş; $\{0.01,0.02,0.1\}$ aralığındaki öğrenme oranları ve ağırlık azalımı (weight decay) ile Adagrad üzerinden optimize edilmiştir.
• Alt Sınır Optimizasyonu: Çeşitli örtük uzay boyutlarında (Frey Face ve MNIST üzerinde $N_{\mathbf{z}}\in \{2,5,10,20,400\}$), AEVB wake-sleep algoritmasına kıyasla önemli ölçüde daha hızlı yakınsamış ve daha yüksek bir alt sınıra ulaşmıştır.
• Aşırı Uyum Direnci: Önsel dağılıma doğru yönlendiren analitik KL ıraksaması teriminin düzenlileştirici etkisi sayesinde, $\mathbf{z}$ boyutunun artırılması aşırı uyuma (overfitting) yol açmamıştır.
• Marjinal Olabilirlik Kestirimi: HMC tabanlı marjinal olabilirlik kestiricisi kullanılan 3 boyutlu örtük uzay MNIST deneylerinde AEVB, wake-sleep'e göre daha hızlı yakınsamış ve Monte Carlo EM'in uygulanabilirliğini fazlasıyla aşmıştır (Monte Carlo EM, tüm MNIST veri kümesinde çalıştırılamayacak kadar yavaştı).
• Çalışma Süresi: Eğitim, bir Intel Xeon CPU (~40 GFLOPS) üzerinde milyon örnek başına yaklaşık 20–40 dakika sürmüştür.

Sınırlılıklar ve açık sorular

• Sürekli Örtük Değişkenler: Yeniden parametreleme hilesi doğrudan parametrelere göre türevlenebilirliğe dayanır; bu nedenle kesikli örtük değişken dağılımlarına doğrudan uygulanması önemsiz (non-trivial) değildir.
• Yaklaşım Boşluğu (Approximation Gap): $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ için köşegen bir Gauss dağılımı varsaymak, gerçek sonsal dağılım çok modlu veya güçlü bir şekilde birbirine bağlı olduğunda modelin ifade kapasitesini sınırlar.
• Tam Varyasyonel Bayes'e Genişletme: Deneysel değerlendirme $\mathbf{\theta }$ için MAP/ML parametre tahminine odaklanmıştır; global $\mathbf{\theta }$ parametreleri üzerindeki varyasyonel çıkarım ek bölümde formüle edilmiş ancak gelecekteki ampirik doğrulamalara bırakılmıştır.