Auto-Encoding Variational Bayes

論文解讀

問題與研究動機

具備連續潛變數 $\mathbf{z}$ 的有向機率模型，在生成模型、非監督式表徵學習以及邊際推論中極具價值。然而，當面臨以下情況時，採用最大概似法或貝氏方法進行學習會遭遇嚴重的運算瓶頸：

1. 後驗分佈難以解析（Posterior Intractability）： 對於非線性關係（例如深度神經網路），邊際概似積分 $p_{\mathbf{\theta }}(\mathbf{x})=\int p_{\mathbf{\theta }}(\mathbf{z})p_{\mathbf{\theta }}(\mathbf{x}|\mathbf{z})d\mathbf{z}$ 與後驗分佈 $p_{\mathbf{\theta }}(\mathbf{z}|\mathbf{x})$ 缺乏閉形式解析解，導致標準的期望最大化（EM）與平均場變分貝氏方法無法適用。
2. 大型資料集： 傳統的取樣方法（如 Monte Carlo EM）需要針對資料集中的每個資料點進行耗時的迭代 MCMC 取樣，使得大規模小批次（mini-batch）優化變得不可行。

標準的原始評分函數（score-function）梯度估計量 ${\nabla }_{\mathbf{\varphi }}{\mathbb{E}}_{q_{\mathbf{\varphi }}(\mathbf{z})}[f(\mathbf{z})]$ 具有極高的變異數，因而無法藉由隨機梯度上升法進行可靠的優化。

核心概念

• 重參數化技巧（Reparameterization Trick）： 與其直接從難以處理的參數化分佈 $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ 取樣 $\mathbf{z}$，不如將該變數改寫為獨立雜訊變數 $\mathbf{ϵ}\sim p(\mathbf{ϵ})$ 的確定性轉換：$\mathbf{z}=g_{\mathbf{\varphi }}(\mathbf{ϵ},\mathbf{x})$。這使得對 $\mathbf{\varphi }$ 的微分可以透過標準反向傳播完成，且變異數顯著降低。
• 攤提推論（識別模型，Amortized Inference / Recognition Model）： 不再針對每個資料點單獨優化變分參數，而是由一個編碼器神經網路 $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ 根據條件 $\mathbf{x}$ 來預測變分參數（例如潛在常態分佈的平均值與變異數）。
• 自編碼變分貝氏（Auto-Encoding Variational Bayes, AEVB）： 在重參數化變分下界上利用隨機梯度上升法，聯合優化生成參數 $\mathbf{\theta }$（機率解碼器）與變分參數 $\mathbf{\varphi }$（機率編碼器）。

方法詳解

變分目標是最大化證據下界（ELBO）$\mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})$： $$\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)})\ge \mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})=-D_{KL}(q_{\mathbf{\varphi }}(\mathbf{z}|{\mathbf{x}}^{(i)})\parallel p_{\mathbf{\theta }}(\mathbf{z}))+{\mathbb{E}}_{q_{\mathbf{\varphi }}(\mathbf{z}|{\mathbf{x}}^{(i)})}\left[\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)}|\mathbf{z})\right]$$

套用重參數化技巧 ${\mathbf{z}}^{(i,l)}=g_{\mathbf{\varphi }}({\mathbf{ϵ}}^{(i,l)},{\mathbf{x}}^{(i)})$，其中 ${\mathbf{ϵ}}^{(i,l)}\sim p(\mathbf{ϵ})$，通用的 SGVB 估計量（Estimator A）表示為： $${\tilde{\mathcal{L}}}^A(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})=\frac{1}{L}\sum _{l=1}^L\left[\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)},{\mathbf{z}}^{(i,l)})-\log q_{\mathbf{\varphi }}({\mathbf{z}}^{(i,l)}|{\mathbf{x}}^{(i)})\right]$$

當先驗分佈 $p_{\mathbf{\theta }}(\mathbf{z})=\mathcal{N}(0,\mathbf{I})$ 與近似後驗分佈 $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})=\mathcal{N}(\mathbf{\mu },{\mathbf{\sigma }}^2\mathbf{I})$ 皆為常態分佈時，KL 散度可以解析計算，從而導出 Estimator B： $$\mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})\simeq \frac{1}{2}\sum _{j=1}^J\left(1+\log (({\sigma }_j^{(i)}{)}^2)-({\mu }_j^{(i)}{)}^2-({\sigma }_j^{(i)}{)}^2\right)+\frac{1}{L}\sum _{l=1}^L\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)}|{\mathbf{z}}^{(i,l)})$$ 其中 ${\mathbf{z}}^{(i,l)}={\mathbf{\mu }}^{(i)}+{\mathbf{\sigma }}^{(i)}\odot {\mathbf{ϵ}}^{(l)}$ 且 ${\mathbf{ϵ}}^{(l)}\sim \mathcal{N}(0,\mathbf{I})$。

對於大小為 $M$ 的小批次，完整下界估計量為： $${\tilde{\mathcal{L}}}^M(\mathbf{\theta },\mathbf{\varphi };{\mathbf{X}}^M)=\frac{N}{M}\sum _{i=1}^M\tilde{\mathcal{L}}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})$$ 在實務上，若配合適當的小批次大小（如 $M=100$），每個資料點僅取 $L=1$ 個樣本即已足夠。

實驗結果

• 模型設定： 生成模型在 MNIST（Bernoulli MLP 解碼器，500 個隱藏單元）與 Frey Face（常態分佈 MLP 解碼器，200 個隱藏單元）上進行評估，採用 Adagrad 優化器，學習率設為 $\{0.01,0.02,0.1\}$ 並搭配權重衰減（weight decay）。
• 下界優化表現： 在不同的潛在維度下（Frey Face 與 MNIST 上的 $N_{\mathbf{z}}\in \{2,5,10,20,400\}$），AEVB 的收斂速度明顯快於 wake-sleep 演算法，且達到了更高的下界數值。
• 抗過擬合能力： 增加 $\mathbf{z}$ 的維度並不會導致過擬合，這歸功於朝向先驗分佈的解析 KL 散度項所發揮的正規化作用。
• 邊際概似估計： 在 3 維潛在空間的 MNIST 實驗中，利用基於 HMC 的邊際概似估計量進行評估，AEVB 的收斂速度優於 wake-sleep，且遠比 Monte Carlo EM 更具可行性（後者運算過慢，無法在完整 MNIST 資料集上執行）。
• 執行時間： 在 Intel Xeon CPU（約 40 GFLOPS）上，每訓練一百萬個樣本約需 20–40 分鐘。

局限性與未來研究方向

• 連續潛變數限制： 重參數化技巧直接仰賴對參數的可微性，因此難以直接推廣至離散潛變數分佈。
• 近似差距（Approximation Gap）： 假設 $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ 為對角常態分佈限制了模型的表達能力，特別是當真實後驗分佈具有多峰性（multimodal）或高度耦合時。
• 推廣至完全變分貝氏（Full Variational Bayes）： 本文的實證評估主要著重於針對參數 $\mathbf{\theta }$ 進行 MAP/ML 估計；對全域參數 $\mathbf{\theta }$ 的變分推論已在附錄中進行公式推導，但仍有待未來的實證檢驗。