Generative Adversarial Networks

Ian J. Goodfellow; Jean Pouget-Abadie; Mehdi Mirza; Bing Xu; David Warde-Farley; Sherjil Ozair; Aaron Courville; Yoshua Bengio

Generative Adversarial Networks

Ian J. Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, Yoshua Bengio

प्रकाशित 2014-06-10stat.MLcs.LG arXiv PDF

अनुवाद और AI के साथ पढ़ें

तीन पंक्तियों में सारांश

🎯 डीप जनरेटिव मॉडल जटिल संभाव्यता गणनाओं, अननॉर्मलाइज्ड पार्टीशन फ़ंक्शन्स और मार्कोव चेन पर अत्यधिक निर्भरता से जूझ रहे थे।
🔧 जनरेटिव मॉडलिंग को जनरेटर $G$ और डिस्क्रिमिनेटर $D$ के बीच दो-खिलाड़ियों वाले मिनिमैक्स गेम के रूप में तैयार करता है, जिसे बैकप्रॉपैगैशन के माध्यम से प्रशिक्षित किया जा सकता है।
📈 यह वैश्विक इष्टतमता (global optimality) तक पहुंचता है जहां $p_{g} = p_{data}$ है, और MNIST पर $225 \pm 2$ तथा TFD पर $2057 \pm 26$ का Gaussian Parzen window लॉग-लाइकलहुड प्राप्त करता है।

सार

हम एक प्रतिकूल (adversarial) प्रक्रिया के माध्यम से जनरेटिव मॉडलों का आकलन करने के लिए एक नए ढांचे का प्रस्ताव करते हैं, जिसमें हम एक साथ दो मॉडलों को प्रशिक्षित करते हैं: एक जनरेटिव मॉडल G जो डेटा वितरण को कैप्चर करता है, और एक डिस्क्रिमिनेटिव मॉडल D जो इस संभावना का अनुमान लगाता है कि कोई सैंपल G के बजाय ट्रेनिंग डेटा से आया है। G के लिए प्रशिक्षण प्रक्रिया D द्वारा गलती करने की संभावना को अधिकतम करना है। यह ढांचा दो-खिलाड़ियों वाले मिनिमैक्स गेम से मेल खाता है। मनमाने कार्यों G और D के स्पेस में एक अनूठा समाधान मौजूद है, जहां G ट्रेनिंग डेटा वितरण को पुनर्प्राप्त करता है और D हर जगह 1/2 के बराबर होता है। उस स्थिति में जहां G और D को मल्टीलेयर परसेप्ट्रॉन द्वारा परिभाषित किया गया है, पूरे सिस्टम को बैकप्रॉपैगैशन के साथ प्रशिक्षित किया जा सकता है। सैंपल्स के प्रशिक्षण या निर्माण के दौरान किसी भी मार्कोव चेन या अनरोल्ड अनुमानित इन्फेरेंस नेटवर्क की कोई आवश्यकता नहीं है। प्रयोग जनरेट किए गए सैंपल्स के गुणात्मक और मात्रात्मक मूल्यांकन के माध्यम से इस ढांचे की क्षमता का प्रदर्शन करते हैं।

मूल सार (अंग्रेज़ी)

We propose a new framework for estimating generative models via an adversarial process, in which we simultaneously train two models: a generative model G that captures the data distribution, and a discriminative model D that estimates the probability that a sample came from the training data rather than G. The training procedure for G is to maximize the probability of D making a mistake. This framework corresponds to a minimax two-player game. In the space of arbitrary functions G and D, a unique solution exists, with G recovering the training data distribution and D equal to 1/2 everywhere. In the case where G and D are defined by multilayer perceptrons, the entire system can be trained with backpropagation. There is no need for any Markov chains or unrolled approximate inference networks during either training or generation of samples. Experiments demonstrate the potential of the framework through qualitative and quantitative evaluation of the generated samples.

पढ़ने की गाइड

समस्या और प्रेरणा

डीप लर्निंग ने बैकप्रॉपैगैशन, ड्रॉपआउट और पीसवाइज लीनियर यूनिट्स का लाभ उठाकर डिस्क्रिमिनेटिव कार्यों में भारी सफलता हासिल की। इसके विपरीत, डीप जनरेटिव मॉडल्स का प्रभाव गंभीर कम्प्यूटेशनल बाधाओं के कारण बहुत कम था: इंट्रैक्टेबल पार्टीशन फ़ंक्शन्स, कठिन अनुमानित इन्फेरेंस (approximate inference), और ट्रेनिंग व सैंपल जनरेशन के दौरान Markov Chain Monte Carlo (MCMC) विधियों की आवश्यकता। MCMC एल्गोरिदम अक्सर मोड्स के बीच धीमी मिक्सिंग से ग्रस्त होते हैं। लेखकों ने एक ऐसा जनरेटिव ढांचा तैयार करने का लक्ष्य रखा जो ट्रेनिंग और जनरेशन दोनों के दौरान मार्कोव चेन या अनुमानित इन्फेरेंस नेटवर्क की आवश्यकता को समाप्त कर दे।

मुख्य विचार

Adversarial Framework: जनरेटिव मॉडलिंग को दो मल्टीलेयर परसेप्ट्रॉन के बीच मिनिमैक्स गेम के रूप में तैयार करना: एक जनरेटर $G$ (जालसाजों के समान) और एक डिस्क्रिमिनेटर $D$ (पुलिस के समान)।
फॉरवर्ड प्रोपेगेशन द्वारा सैंपलिंग: जनरेटर $G (z; θ_{g})$ मानक फीडफॉरवर्ड गणना का उपयोग करके रैंडम नॉइज़ $z \sim p_{z}$ को सीधे सिंथेटिक डेटा सैंपल्स में बदलता है।
प्रत्यक्ष ग्रेडिएंट फ्लो: जनरेटर को व्यक्तिगत ट्रेनिंग उदाहरणों को सीधे फिट करने के बजाय केवल डिस्क्रिमिनेटर के माध्यम से बैकवर्ड प्रोपेगेट किए गए ग्रेडिएंट्स द्वारा अपडेट किया जाता है।
डाइवर्जेंस से सैद्धांतिक संबंध: गैर-पैरामीट्रिक सीमा में जहां $G$ और $D$ की असीमित क्षमता होती है, मिनिमैक्स उद्देश्य को ऑप्टिमाइज़ करना वास्तविक डेटा वितरण $p_{data}$ और मॉडल वितरण $p_{g}$ के बीच Jensen–Shannon divergence को न्यूनतम करता है।

पद्धति (प्रमुख समीकरणों के साथ)

सिस्टम में जनरेटर $G (z; θ_{g})$ लेटेंट प्रायर $p_{z} (z)$ को डेटा स्पेस में मैप करता है, और डिस्क्रिमिनेटर $D (x; θ_{d})$ इस संभावना की भविष्यवाणी करता है कि $x$ मूल रूप से $p_{g}$ के बजाय $p_{data}$ से उत्पन्न हुआ है।

मिनिमैक्स वैल्यू फ़ंक्शन है: $G min D max V (D, G) = E_{x \sim p_{data} (x)} [lo g D (x)] + E_{z \sim p_{z} (z)} [lo g (1 - D (G (z)))]$

किसी भी निश्चित जनरेटर $G$ के लिए, इष्टतम डिस्क्रिमिनेटर को विश्लेषणात्मक रूप से इस प्रकार प्राप्त किया जाता है: $D_{G}^{*} (x) = \frac{p _{data} ( x )}{p _{data} ( x ) + p _{g} ( x )}$

$V (D, G)$ में $D_{G}^{*}$ को प्रतिस्थापित करने पर वर्चुअल ट्रेनिंग मानदंड $C (G) = max_{D} V (G, D)$ प्राप्त होता है, जो इस रूप में घट जाता है: $C (G) = - lo g (4) + 2 \cdot J S D (p_{data} ∥ p_{g})$ वैश्विक न्यूनतम विशिष्ट रूप से तब प्राप्त होता है जब $p_{g} = p_{data}$ , जिससे $C (G) = - lo g 4$ और हर जगह $D^{*} (x) = \frac{1}{2}$ प्राप्त होता है।

प्रशिक्षण एल्गोरिदम:

अल्टरनेटिंग ऑप्टिमाइज़ेशन: आकार $m$ के मिनीबैच पर ग्रेडिएंट एसेंट का उपयोग करके $k$ चरणों ( $k = 1$ प्रयोगात्मक रूप से उपयोग किया गया) के लिए $D$ को प्रशिक्षित करें: $\nabla_{θ_{d}} \frac{1}{m} i = 1 \sum m [lo g D (x^{(i)}) + lo g (1 - D (G (z^{(i)})))]$
एक ग्रेडिएंट डिसेंट स्टेप के साथ $G$ को अपडेट करें। चूंकि $lo g (1 - D (G (z)))$ ट्रेनिंग के प्रारंभ में संतृप्त (saturate) हो सकता है जब $D$ आसानी से खराब जनरेटर सैंपल्स को अस्वीकार कर देता है, व्यावहारिक रूप से $G$ को इसके बजाय $lo g D (G (z))$ को अधिकतम करके अपडेट किया जाता है।

परिणाम (सबसे महत्वपूर्ण आंकड़ों के साथ)

लेखकों ने MNIST, Toronto Face Database (TFD) और CIFAR-10 पर एडवरसैरियल नेट्स का मूल्यांकन किया। चूंकि GAN क्लोज्ड-फॉर्म लाइकलहुड की पेशकश नहीं करते हैं, इसलिए जनरेट किए गए सैंपल्स में Gaussian Parzen window को फिट करके और टेस्ट सेट लॉग-लाइकलहुड की गणना करके प्रदर्शन का मात्रात्मक मूल्यांकन किया गया:

MNIST: एडवरसैरियल नेट्स ने $225 \pm 2$ का औसत लॉग-लाइकलहुड हासिल किया, जिसने Deep Belief Networks ( $138 \pm 2$ ), Stacked Contractive Autoencoders ( $121 \pm 1.6$ ), और Deep Generative Stochastic Networks ( $214 \pm 1.1$ ) से बेहतर प्रदर्शन किया।
TFD: एडवरसैरियल नेट्स ने $2057 \pm 26$ प्राप्त किया, जो Stacked CAEs ( $2110 \pm 50$ ) के साथ प्रतिस्पर्धी था और DBNs ( $1909 \pm 66$ ) तथा Deep GSNs ( $1890 \pm 29$ ) से आगे निकल गया।
गुणात्मक जनरेशन: रैंडम सैंपल्स के दृश्य निरीक्षण ने बिना याद किए (निकटतम ट्रेनिंग पड़ोसियों को दिखाकर सत्यापित) उच्च गुणवत्ता की पुष्टि की और $z$ में सुगम लेटेंट स्पेस इंटरपोलेशन का प्रदर्शन किया।

सीमाएं और अनसुलझे प्रश्न

कोई स्पष्ट डेंसिटी फ़ंक्शन नहीं: मॉडल अंतर्निहित रूप से $p_{g} (x)$ का सैंपल लेता है, जिससे सटीक डेंसिटी मूल्यांकन कठिन हो जाता है और Parzen window अनुमानों जैसे अनुमानी (heuristic) मूल्यांकनों की आवश्यकता होती है।
मोड पतन ("The Helvetica Scenario"): यदि पर्याप्त डिस्क्रिमिनेटर अपडेट के बिना $G$ को अत्यधिक प्रशिक्षित किया जाता है, तो $G$ कई अलग-अलग $z$ मानों को समान $x$ आउटपुट में संकुचित (collapse) कर सकता है, जिससे यह $p_{data}$ की पूरी विविधता को कैप्चर करने में विफल रहता है।
प्रशिक्षण अस्थिरता: विकृत गतिशीलता या ग्रेडिएंट के लुप्त होने से रोकने के लिए पूरे प्रशिक्षण के दौरान $D$ और $G$ को सावधानीपूर्वक संतुलित रखा जाना चाहिए।

मुख्य शब्द

Generative Adversarial Nets: जनरेटिव मॉडलों के प्रशिक्षण के लिए एक ढांचा जहां एक जनरेटर नेटवर्क और एक डिस्क्रिमिनेटर नेटवर्क दो-खिलाड़ियों वाले मिनिमैक्स गेम में प्रतिस्पर्धा करते हैं।
Generator ($G$): एक डिफरेंशिएबल न्यूरल नेटवर्क जो वास्तविक डेटा वितरण $p_{data}$ का अनुमान लगाने के लिए लेटेंट प्रायर नॉइज़ $z$ को डेटा स्पेस में मैप करता है।
Discriminator ($D$): एक न्यूरल नेटवर्क क्लासिफायर जिसे इस संभावना का अनुमान लगाने के लिए प्रशिक्षित किया जाता है कि कोई इनपुट सैंपल जनरेटर के बजाय वास्तविक डेटासेट से आया है।
Jensen–Shannon Divergence (JSD): दो संभाव्यता वितरणों के बीच दूरी का एक सममित (symmetric), परिबद्ध माप; जब $p_{data}$ और $p_{g}$ के बीच JSD शून्य होता है, तो GAN मिनिमैक्स उद्देश्य न्यूनतम हो जाता है।
Helvetica Scenario: विफलता मोड (जिसे अब आमतौर पर मोड कोलैप्स के रूप में जाना जाता है) जहां जनरेटर विविधता की कमी के कारण कई अलग-अलग लेटेंट नॉइज़ वैक्टर $z$ को बिल्कुल समान डेटा बिंदु $x$ पर मैप करता है।
Gaussian Parzen Window: एक गैर-पैरामीट्रिक कर्नेल डेंसिटी आकलन विधि जिसका उपयोग लेखकों द्वारा जनरेटर सैंपल्स से टेस्ट सेट लॉग-लाइकलहुड का अनुमान लगाने के लिए किया गया था।
Non-saturating game: प्रशिक्षण की शुरुआत में ग्रेडिएंट लुप्त होने से रोकने के लिए $lo g (1 - D (G (z)))$ को न्यूनतम करने के बजाय $lo g D (G (z))$ को अधिकतम करने का व्यावहारिक वैकल्पिक जनरेटर उद्देश्य।

प्रश्न

जनरेटर के लिए मूल मिनिमैक्स लॉस $\log(1 - D(G(\bm{z})))$ को क्यों बदला गया?

प्रशिक्षण के प्रारंभ में, जब जनरेटर खराब सैंपल तैयार करता है, तो डिस्क्रिमिनेटर आसानी से उन्हें उच्च विश्वास के साथ नकली के रूप में वर्गीकृत करता है। इससे $lo g (1 - D (G (z)))$ संतृप्त (saturate) हो जाता है, जिससे बहुत छोटे ग्रेडिएंट प्राप्त होते हैं। $lo g D (G (z))$ को अधिकतम करना समान फिक्स्ड पॉइंट को बनाए रखते हुए शुरुआत में बहुत मजबूत ग्रेडिएंट प्रदान करता है।

गेम का सैद्धांतिक इष्टतम मान क्या है?

जब $G$ वैश्विक इष्टतम ( $p_{g} = p_{data}$ ) तक पहुँचता है, तो इष्टतम डिस्क्रिमिनेटर हर जगह $D^{*} (x) = \frac{1}{2}$ की भविष्यवाणी करता है, और वैल्यू फ़ंक्शन $- lo g 4$ प्राप्त करता है।

RBMs या GSNs जैसे समकालीन जनरेटिव मॉडलों की तुलना में GANs अधिक फायदेमंद क्यों थे?

उन्हें सैंपलिंग के लिए मार्कोव चेन की आवश्यकता नहीं होती है, जटिल पार्टीशन फ़ंक्शन अनुमानों की आवश्यकता नहीं होती है, प्रशिक्षण के दौरान स्पष्ट इन्फेरेंस चरणों से बचा जाता है, और उन्हें ReLUs तथा maxout जैसे आधुनिक एक्टिवेशन के साथ पूरी तरह से बैकप्रॉपैगैशन का उपयोग करके प्रशिक्षित किया जा सकता है।

पेपर में डिस्क्रिमिनेटर स्टेप्स $k$ के लिए हाइपरपैरामीटर सेटिंग क्या थी?

लेखकों ने अपने प्रयोगों में कम्प्यूटेशनल रूप से सबसे सस्ते विकल्प के रूप में प्रति जनरेटर अपडेट केवल $k = 1$ डिस्क्रिमिनेटर अपडेट का उपयोग किया।

इस पृष्ठ की व्याख्या AI ने शोध पत्र से लिखी है और इसमें गलतियाँ हो सकती हैं। विवरण के लिए मूल शोध पत्र पढ़ें।

अनुवाद और AI के साथ पढ़ें