自编码变分贝叶斯 (Auto-Encoding Variational Bayes)

论文解读

问题与动机

包含连续潜变量 $\mathbf{z}$ 的有向概率模型在生成建模、无监督表征学习以及边际推断方面非常有用。然而，在以下情况下，通过极大似然或贝叶斯方法学习这些模型会面临严峻的计算瓶颈：

1. 后验不可解（Posterior intractability）： 对于非线性关系（如深度神经网络），边际似然积分 $p_{\mathbf{\theta }}(\mathbf{x})=\int p_{\mathbf{\theta }}(\mathbf{z})p_{\mathbf{\theta }}(\mathbf{x}|\mathbf{z})d\mathbf{z}$ 与后验分布 $p_{\mathbf{\theta }}(\mathbf{z}|\mathbf{x})$ 缺乏解析形式的闭式解，导致标准的期望最大化（EM）和均值场变分贝叶斯无法适用。
2. 大规模数据集： 传统的采样方法（如 Monte Carlo EM）需要对数据集中的每个样本进行缓慢的迭代 MCMC 采样，这使得大规模 mini-batch 优化的计算成本极高。

标准的朴素得分函数梯度估计器 ${\nabla }_{\mathbf{\varphi }}{\mathbb{E}}_{q_{\mathbf{\varphi }}(\mathbf{z})}[f(\mathbf{z})]$ 存在过高的方差，无法通过随机梯度上升进行可靠的优化。

核心思想

• 重参数化技巧（Reparameterization Trick）： 不再直接从参数化的难解分布 $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ 中采样 $\mathbf{z}$，而是将其重写为一个独立噪声变量 $\mathbf{ϵ}\sim p(\mathbf{ϵ})$ 的确定性变换：$\mathbf{z}=g_{\mathbf{\varphi }}(\mathbf{ϵ},\mathbf{x})$。这允许通过标准反向传播对 $\mathbf{\varphi }$ 进行求导，并大幅降低方差。
• 摊销推断 / 识别模型（Amortized Inference / Recognition Model）： 避免为每个数据点单独优化变分参数，而是使用一个编码器神经网络 $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$，以 $\mathbf{x}$ 为条件直接预测变分参数（如潜高斯分布的均值和方差）。
• 自编码变分贝叶斯（AEVB）： 在重参数化后的变分下界上使用随机梯度上升，联合优化生成参数 $\mathbf{\theta }$（概率解码器）和变分参数 $\mathbf{\varphi }$（概率编码器）。

方法

变分目标是最大化证据下界（ELBO）$\mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})$： $$\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)})\ge \mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})=-D_{KL}(q_{\mathbf{\varphi }}(\mathbf{z}|{\mathbf{x}}^{(i)})\parallel p_{\mathbf{\theta }}(\mathbf{z}))+{\mathbb{E}}_{q_{\mathbf{\varphi }}(\mathbf{z}|{\mathbf{x}}^{(i)})}\left[\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)}|\mathbf{z})\right]$$

应用重参数化技巧 ${\mathbf{z}}^{(i,l)}=g_{\mathbf{\varphi }}({\mathbf{ϵ}}^{(i,l)},{\mathbf{x}}^{(i)})$，其中 ${\mathbf{ϵ}}^{(i,l)}\sim p(\mathbf{ϵ})$，通用的 SGVB 估计器（Estimator A）为： $${\tilde{\mathcal{L}}}^A(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})=\frac{1}{L}\sum _{l=1}^L\left[\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)},{\mathbf{z}}^{(i,l)})-\log q_{\mathbf{\varphi }}({\mathbf{z}}^{(i,l)}|{\mathbf{x}}^{(i)})\right]$$

当先验分布 $p_{\mathbf{\theta }}(\mathbf{z})=\mathcal{N}(0,\mathbf{I})$ 且近似后验 $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})=\mathcal{N}(\mathbf{\mu },{\mathbf{\sigma }}^2\mathbf{I})$ 为高斯分布时，KL 散度可以解析求解，从而得到 Estimator B： $$\mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})\simeq \frac{1}{2}\sum _{j=1}^J\left(1+\log (({\sigma }_j^{(i)}{)}^2)-({\mu }_j^{(i)}{)}^2-({\sigma }_j^{(i)}{)}^2\right)+\frac{1}{L}\sum _{l=1}^L\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)}|{\mathbf{z}}^{(i,l)})$$ 其中 ${\mathbf{z}}^{(i,l)}={\mathbf{\mu }}^{(i)}+{\mathbf{\sigma }}^{(i)}\odot {\mathbf{ϵ}}^{(l)}$，且 ${\mathbf{ϵ}}^{(l)}\sim \mathcal{N}(0,\mathbf{I})$。

对于大小为 $M$ 的 mini-batch，完整的下界估计器为： $${\tilde{\mathcal{L}}}^M(\mathbf{\theta },\mathbf{\varphi };{\mathbf{X}}^M)=\frac{N}{M}\sum _{i=1}^M\tilde{\mathcal{L}}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})$$ 在实践中，当搭配如 $M=100$ 的 mini-batch 大小时，每个数据点仅取 $L=1$ 个样本就已足够。

结果

• 模型设置： 在 MNIST（Bernoulli MLP 解码器，500 个隐藏单元）和 Frey Face（Gaussian MLP 解码器，200 个隐藏单元）上评估生成模型，使用 Adagrad 优化，学习率取自 $\{0.01,0.02,0.1\}$ 并配合权重衰减。
• 下界优化： 在不同潜空间维度下（Frey Face 和 MNIST 上 $N_{\mathbf{z}}\in \{2,5,10,20,400\}$），AEVB 的收敛速度显著快于 wake-sleep 算法，并取得了更高的下界。
• 抗过拟合能力： 增加 $\mathbf{z}$ 的维度并未导致过拟合，这归功于趋向先验分布的解析 KL 散度项所起到的正则化作用。
• 边际似然估计： 在使用基于 HMC 的边际似然估计器的 3 维潜空间 MNIST 实验中，AEVB 比 wake-sleep 收敛更快，且可行性远超 Monte Carlo EM（后者运行速度过慢，无法在完整 MNIST 数据集上执行）。
• 运行时间： 在一块 Intel Xeon CPU（~40 GFLOPS）上，每百万样本的训练耗时约 20-40 分钟。

局限与待探索问题

• 连续潜变量限制： 重参数化技巧直接依赖于对参数的可微性，因此将其直接推广到离散潜变量分布并非易事。
• 近似差距（Approximation Gap）： 假定 $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ 为对角高斯分布限制了模型的表达能力，特别是当真实后验呈现多峰或强耦合特性时。
• 扩展至全变分贝叶斯： 实证评估主要集中在参数 $\mathbf{\theta }$ 的 MAP/ML 估计；针对全局参数 $\mathbf{\theta }$ 的变分推断虽然在附录中给出了公式推导，但留待后续实证验证。