Auto-Encoding Variational Bayes

पढ़ने की गाइड

समस्या और प्रेरणा

कंटीन्यूअस लेटेंट वेरिएबल्स $\mathbf{z}$ वाले डायरेक्टेड प्रोबेबिलिस्टिक मॉडल्स जनरेटिव मॉडलिंग, अनसुपरवाइज्ड रिप्रेजेंटेशन लर्निंग और मार्जिनल इन्फरेंस के लिए उपयोगी हैं। हालांकि, मैक्सिमम लाइकलहुड या बायेसियन विधियों के माध्यम से उन्हें सीखने में गंभीर कम्प्यूटेशनल बाधाओं का सामना करना पड़ता है जब:

1. पोस्टीरियर इंट्रैक्टेबिलिटी: गैर-रेखीय संबंधों (जैसे, डीप न्यूरल नेटवर्क) के लिए, मार्जिनल लाइकलहुड इंटीग्रल $p_{\mathbf{\theta }}(\mathbf{x})=\int p_{\mathbf{\theta }}(\mathbf{z})p_{\mathbf{\theta }}(\mathbf{x}|\mathbf{z})d\mathbf{z}$ और पोस्टीरियर $p_{\mathbf{\theta }}(\mathbf{z}|\mathbf{x})$ में क्लोज्ड-फॉर्म एनालिटिकल सॉल्यूशंस की कमी होती है, जिससे मानक Expectation-Maximization (EM) और मीन-फील्ड वेरिएशनल बायेस अनुपयुक्त हो जाते हैं।
2. बड़े डेटासेट्स: पारंपरिक सैंपलिंग दृष्टिकोण जैसे कि Monte Carlo EM को डेटासेट के प्रत्येक डेटापॉइंट के लिए धीमी, पुनरावृत्त MCMC सैंपलिंग की आवश्यकता होती है, जिससे बड़े पैमाने पर मिनी-बैच ऑप्टिमाइज़ेशन अत्यधिक महंगा हो जाता है।

मानक नैइव स्कोर-फ़ंक्शन ग्रेडिएंट एस्टीमेटर ${\nabla }_{\mathbf{\varphi }}{\mathbb{E}}_{q_{\mathbf{\varphi }}(\mathbf{z})}[f(\mathbf{z})]$ अत्यधिक उच्च प्रसरण (variance) प्रदर्शित करता है, जो स्टोकेस्टिक ग्रेडिएंट एसेंट के साथ विश्वसनीय ऑप्टिमाइज़ेशन को रोकता है।

मुख्य विचार

• Reparameterization Trick: एक इंट्रैक्टेबल पैरामीटरयुक्त डिस्ट्रीब्यूशन $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ से $\mathbf{z}$ को सीधे सैंपल करने के बजाय, वेरिएबल को एक स्वतंत्र नॉइज़ वेरिएबल $\mathbf{ϵ}\sim p(\mathbf{ϵ})$ के डिटरमिनिस्टिक ट्रांसफ़ॉर्मेशन के रूप में फिर से लिखा जाता है: $\mathbf{z}=g_{\mathbf{\varphi }}(\mathbf{ϵ},\mathbf{x})$। यह नाटकीय रूप से कम प्रसरण के साथ मानक बैकप्रॉपैगैशन के माध्यम से $\mathbf{\varphi }$ के संबंध में डिफ़रेंशिएशन की अनुमति देता है।
• अमॉर्टाइज़्ड इन्फरेंस (रिकॉग्निशन मॉडल): प्रति डेटापॉइंट वेरिएशनल पैरामीटर्स को ऑप्टिमाइज़ करने के बजाय, एक एनकोडर न्यूरल नेटवर्क $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ इनपुट $\mathbf{x}$ पर कंडीशन करते हुए वेरिएशनल पैरामीटर्स (जैसे लेटेंट गाऊसीयन का माध्य और प्रसरण) की भविष्यवाणी करता है।
• Auto-Encoding Variational Bayes (AEVB): रीपैरामीटराइज्ड वेरिएशनल लोअर बाउंड पर स्टोकेस्टिक ग्रेडिएंट एसेंट का उपयोग करके जनरेटिव पैरामीटर्स $\mathbf{\theta }$ (प्रोबेबिलिस्टिक डिकोडर) और वेरिएशनल पैरामीटर्स $\mathbf{\varphi }$ (प्रोबेबिलिस्टिक एनकोडर) को संयुक्त रूप से ऑप्टिमाइज़ करता है।

विधि

वेरिएशनल उद्देश्य Evidence Lower Bound (ELBO) $\mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})$ को अधिकतम करता है: $$\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)})\ge \mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})=-D_{KL}(q_{\mathbf{\varphi }}(\mathbf{z}|{\mathbf{x}}^{(i)})\parallel p_{\mathbf{\theta }}(\mathbf{z}))+{\mathbb{E}}_{q_{\mathbf{\varphi }}(\mathbf{z}|{\mathbf{x}}^{(i)})}\left[\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)}|\mathbf{z})\right]$$

${\mathbf{ϵ}}^{(i,l)}\sim p(\mathbf{ϵ})$ के साथ reparameterization trick ${\mathbf{z}}^{(i,l)}=g_{\mathbf{\varphi }}({\mathbf{ϵ}}^{(i,l)},{\mathbf{x}}^{(i)})$ को लागू करते हुए, सामान्य SGVB एस्टीमेटर (एस्टीमेटर A) है: $${\tilde{\mathcal{L}}}^A(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})=\frac{1}{L}\sum _{l=1}^L\left[\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)},{\mathbf{z}}^{(i,l)})-\log q_{\mathbf{\varphi }}({\mathbf{z}}^{(i,l)}|{\mathbf{x}}^{(i)})\right]$$

जब प्रायर $p_{\mathbf{\theta }}(\mathbf{z})=\mathcal{N}(0,\mathbf{I})$ और अनुमानित पोस्टीरियर $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})=\mathcal{N}(\mathbf{\mu },{\mathbf{\sigma }}^2\mathbf{I})$ गाऊसीयन होते हैं, तो KL डाइवर्जेंस की गणना एनालिटिकली की जा सकती है, जिससे एस्टीमेटर B प्राप्त होता है: $$\mathcal{L}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})\simeq \frac{1}{2}\sum _{j=1}^J\left(1+\log (({\sigma }_j^{(i)}{)}^2)-({\mu }_j^{(i)}{)}^2-({\sigma }_j^{(i)}{)}^2\right)+\frac{1}{L}\sum _{l=1}^L\log p_{\mathbf{\theta }}({\mathbf{x}}^{(i)}|{\mathbf{z}}^{(i,l)})$$ जहाँ ${\mathbf{z}}^{(i,l)}={\mathbf{\mu }}^{(i)}+{\mathbf{\sigma }}^{(i)}\odot {\mathbf{ϵ}}^{(l)}$ और ${\mathbf{ϵ}}^{(l)}\sim \mathcal{N}(0,\mathbf{I})$ है।

$M$ आकार के मिनी-बैच के लिए, पूर्ण लोअर-बाउंड एस्टीमेटर है: $${\tilde{\mathcal{L}}}^M(\mathbf{\theta },\mathbf{\varphi };{\mathbf{X}}^M)=\frac{N}{M}\sum _{i=1}^M\tilde{\mathcal{L}}(\mathbf{\theta },\mathbf{\varphi };{\mathbf{x}}^{(i)})$$ व्यवहार में, $M=100$ जैसे मिनी-बैच आकारों के साथ प्रति डेटापॉइंट $L=1$ सैंपल सेट करना पर्याप्त होता है।

परिणाम

• मॉडल सेटिंग्स: जनरेटिव मॉडल्स का मूल्यांकन MNIST (बर्नौली MLP डिकोडर, 500 हिडन यूनिट्स) और Frey Face (गाऊसीयन MLP डिकोडर, 200 हिडन यूनिट्स) पर किया गया था, जिन्हें $\{0.01,0.02,0.1\}$ लर्निंग रेट्स और वेट डीके के साथ Adagrad के माध्यम से ऑप्टिमाइज़ किया गया था।
• लोअर बाउंड ऑप्टिमाइज़ेशन: विभिन्न लेटेंट डायमेंशनैलिटीज (Frey Face और MNIST पर $N_{\mathbf{z}}\in \{2,5,10,20,400\}$) में, AEVB ने wake-sleep एल्गोरिदम की तुलना में काफी तेजी से कन्वर्जेंस प्राप्त किया और उच्च लोअर बाउंड हासिल किया।
• ओवरफिटिंग प्रतिरोध: प्रायर की ओर एनालिटिकल KL डाइवर्जेंस टर्म के रेगुलराइज़िंग प्रभाव के कारण $\mathbf{z}$ की डायमेंशनैलिटी बढ़ाने से ओवरफिटिंग नहीं हुई।
• मार्जिनल लाइकलहुड एस्टीमेशन: HMC-आधारित मार्जिनल लाइकलहुड एस्टीमेटर का उपयोग करके 3-डायमेंशनल लेटेंट स्पेस MNIST प्रयोगों पर, AEVB wake-sleep की तुलना में तेजी से कन्वर्ज हुआ और Monte Carlo EM की व्यावहारिकता से काफी आगे निकल गया (जो पूरे MNIST डेटासेट पर चलाने के लिए बहुत धीमा था)।
• रनटाइम: Intel Xeon CPU (~40 GFLOPS) पर प्रति दस लाख सैंपल्स के लिए ट्रेनिंग में लगभग 20-40 मिनट लगे।

सीमाएं और खुले प्रश्न

• कंटीन्यूअस लेटेंट वेरिएबल्स: Reparameterization trick सीधे तौर पर पैरामीटर्स के संबंध में डिफ़रेंशिएबिलिटी पर निर्भर करती है, जिससे इसे असतत (discrete) लेटेंट वेरिएबल डिस्ट्रीब्यूशन्स पर सीधे लागू करना आसान नहीं होता है।
• अनुमान अंतराल (Approximation Gap): $q_{\mathbf{\varphi }}(\mathbf{z}|\mathbf{x})$ के लिए एक डायगोनल गाऊसीयन डिस्ट्रीब्यूशन मानना अभिव्यंजक क्षमता (expressive capacity) को सीमित करता है जब वास्तविक पोस्टीरियर मल्टीमॉडल या दृढ़ता से युग्मित (strongly coupled) होता है।
• पूर्ण वेरिएशनल बायेस का विस्तार: अनुभवजन्य मूल्यांकन $\mathbf{\theta }$ के लिए MAP/ML पैरामीटर अनुमान पर केंद्रित था; वैश्विक पैरामीटर्स $\mathbf{\theta }$ पर वेरिएशनल इन्फरेंस को परिशिष्ट में तैयार किया गया था, लेकिन भविष्य के अनुभवजन्य सत्यापन के लिए छोड़ दिया गया था।