Generative Adversarial Networks

Ian J. Goodfellow; Jean Pouget-Abadie; Mehdi Mirza; Bing Xu; David Warde-Farley; Sherjil Ozair; Aaron Courville; Yoshua Bengio

Makaleler · arXiv 1406.2661

Generative Adversarial Networks

Ian J. Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, Yoshua Bengio

Yayımlanma 2014-06-10stat.MLcs.LG arXiv PDF

Çeviri ve yapay zekâ ile oku

Üç satırda özet

🎯 Derin üretici modeller, çözülemeyen olasılıksal hesaplamalar, normalize edilmemiş bölüşüm fonksiyonları ve Markov zincirlerine bağımlılıkla mücadele ediyordu.
🔧 Üretici modellemeyi, geri yayılım ile eğitilebilen, bir üretici $G$ ve bir ayırt edici $D$ arasındaki iki oyunculu bir minimaks oyunu olarak formüle eder.
📈 $p_{g} = p_{data}$ olan küresel optimalliğe ulaşır; MNIST üzerinde $225 \pm 2$ , TFD üzerinde $2057 \pm 26$ Gauss Parzen penceresi log-olabilirliği elde eder.

Özet

Çekişmeli bir süreç aracılığıyla üretici modelleri tahmin etmek için aynı anda iki modeli eğittiğimiz yeni bir çerçeve öneriyoruz: veri dağılımını yakalayan üretici bir model G ve bir örneğin G yerine eğitim verilerinden gelme olasılığını tahmin eden ayırt edici bir model D. G için eğitim prosedürü, D'nin hata yapma olasılığını maksimize etmektir. Bu çerçeve, iki oyunculu bir minimaks oyununa karşılık gelir. Rastgele fonksiyonlar G ve D uzayında, G'nin eğitim verisi dağılımını geri kazandığı ve D'nin her yerde 1/2'ye eşit olduğu benzersiz bir çözüm mevcuttur. G ve D'nin çok katmanlı algılayıcılarla tanımlandığı durumlarda, tüm sistem geri yayılımla eğitilebilir. Örneklerin eğitimi veya üretimi sırasında herhangi bir Markov zincirine veya açılmış yaklaşık çıkarım ağına ihtiyaç duyulmaz. Deneyler, üretilen örneklerin nitel ve nicel değerlendirmesi yoluyla çerçevenin potansiyelini ortaya koymaktadır.

Orijinal özet (İngilizce)

We propose a new framework for estimating generative models via an adversarial process, in which we simultaneously train two models: a generative model G that captures the data distribution, and a discriminative model D that estimates the probability that a sample came from the training data rather than G. The training procedure for G is to maximize the probability of D making a mistake. This framework corresponds to a minimax two-player game. In the space of arbitrary functions G and D, a unique solution exists, with G recovering the training data distribution and D equal to 1/2 everywhere. In the case where G and D are defined by multilayer perceptrons, the entire system can be trained with backpropagation. There is no need for any Markov chains or unrolled approximate inference networks during either training or generation of samples. Experiments demonstrate the potential of the framework through qualitative and quantitative evaluation of the generated samples.

Okuma rehberi

Problem ve motivasyon

Derin öğrenme; geri yayılım, dropout ve parçalı doğrusal birimlerden yararlanarak ayırt edici görevlerde çarpıcı bir başarı elde etti. Buna karşılık, derin üretici modeller ciddi hesaplama darboğazları nedeniyle çok daha az etki yarattı: çözülemeyen bölüşüm fonksiyonları, zor yaklaşık çıkarımlar ve hem eğitim hem de örnek üretimi sırasında Markov Chain Monte Carlo (MCMC) yöntemlerine duyulan ihtiyaç. MCMC algoritmaları, modlar arasında yavaş geçiş (mixing) sorunundan sıklıkla muzdariptir. Yazarlar, hem eğitim hem de üretim sırasında Markov zincirlerine veya yaklaşık çıkarım ağlarına duyulan ihtiyacı ortadan kaldıran üretici bir çerçeve tasarlamayı amaçlamıştır.

Temel fikirler

Çekişmeli Çerçeve (Adversarial Framework): Üretici modellemeyi iki çok katmanlı algılayıcı arasında bir minimaks oyunu olarak çerçevelemek: bir üretici $G$ (kalpazanlara benzer) ve bir ayırt edici $D$ (polise benzer).
İleri Yayılım ile Örnekleme: Üretici $G (z; θ_{g})$ , standart ileri beslemeli hesaplama kullanarak rastgele gürültüyü $z \sim p_{z}$ doğrudan sentetik veri örneklerine dönüştürür.
Doğrudan Gradyan Akışı: Üretici, münferit eğitim örneklerini doğrudan uydurmak yerine yalnızca ayırt edici üzerinden geriye doğru yayılan gradyanlar aracılığıyla güncellenir.
Iraksamalarla Teorik Bağlantı: $G$ ve $D$ 'nin sonsuz kapasiteye sahip olduğu parametrik olmayan sınırda, minimaks amacını optimize etmek, gerçek veri dağılımı $p_{data}$ ile model dağılımı $p_{g}$ arasındaki Jensen–Shannon ıraksamasını en aza indirir.

Yöntem (ana denklemlerle birlikte)

Sistem, gizil önseli $p_{z} (z)$ veri uzayına eşleyen üretici $G (z; θ_{g})$ ile $x$ 'in $p_{g}$ yerine $p_{data}$ 'dan gelme olasılığını tahmin eden ayırt edici $D (x; θ_{d})$ 'den oluşur.

Minimaks değer fonksiyonu şöyledir: $G min D max V (D, G) = E_{x \sim p_{data} (x)} [lo g D (x)] + E_{z \sim p_{z} (z)} [lo g (1 - D (G (z)))]$

Herhangi bir sabit üretici $G$ için, en uygun ayırt edici analitik olarak şu şekilde türetilir: $D_{G}^{*} (x) = \frac{p _{data} ( x )}{p _{data} ( x ) + p _{g} ( x )}$

$D_{G}^{*}$ 'nin $V (D, G)$ içine yerleştirilmesi, $C (G) = max_{D} V (G, D)$ sanal eğitim kriterini verir ve bu şu şekle indirgenir: $C (G) = - lo g (4) + 2 \cdot J S D (p_{data} ∥ p_{g})$ Küresel minimum, yalnızca $p_{g} = p_{data}$ olduğunda benzersiz bir şekilde elde edilir ve bu durumda her yerde $C (G) = - lo g 4$ ve $D^{*} (x) = \frac{1}{2}$ olur.

Eğitim Algoritması:

Dönüşümlü optimizasyon: $m$ boyutundaki mini-yığınlar üzerinde gradyan artışı kullanarak $D$ 'yi $k$ adım (deneysel olarak $k = 1$ kullanılmıştır) boyunca eğitin: $\nabla_{θ_{d}} \frac{1}{m} i = 1 \sum m [lo g D (x^{(i)}) + lo g (1 - D (G (z^{(i)})))]$
$G$ 'yi bir gradyan inişi adımıyla güncelleyin. $D$ zayıf üretici örneklerini kolayca reddettiğinde $lo g (1 - D (G (z)))$ eğitimin başlarında doyuma ulaşabildiğinden, pratikte $G$ bunun yerine $lo g D (G (z))$ maksimize edilerek güncellenir.

Sonuçlar (en önemli sayılarla birlikte)

Yazarlar, çekişmeli ağları MNIST, Toronto Face Database (TFD) ve CIFAR-10 üzerinde değerlendirmiştir. GAN'lar kapalı formda bir olabilirlik sunmadığından, performans üretilen örneklere bir Gauss Parzen penceresi uydurularak ve test kümesi log-olabilirliği hesaplanarak nicel olarak değerlendirilmiştir:

MNIST: Çekişmeli ağlar $225 \pm 2$ ortalama log-olabilirliğe ulaşarak Deep Belief Networks ( $138 \pm 2$ ), Stacked Contractive Autoencoders ( $121 \pm 1.6$ ) ve Deep Generative Stochastic Networks ( $214 \pm 1.1$ ) modellerini geride bırakmıştır.
TFD: Çekişmeli ağlar $2057 \pm 26$ değerine ulaşarak Stacked CAE'ler ( $2110 \pm 50$ ) ile rekabet etmiş; DBN'leri ( $1909 \pm 66$ ) ve Deep GSN'leri ( $1890 \pm 29$ ) geçmiştir.
Nitel Üretim: Rastgele örneklerin görsel incelemesi, ezberleme olmaksızın yüksek kaliteyi doğrulamış (en yakın eğitim komşuları gösterilerek doğrulanmıştır) ve $z$ içinde pürüzsüz gizil uzay interpolasyonları sergilemiştir.

Sınırlılıklar ve açık sorular

Açık Yoğunluk Fonksiyonunun Olmaması: Model $p_{g} (x)$ 'i örtük olarak örnekler; bu durum kesin yoğunluk değerlendirmesini imkansız hale getirir ve Parzen penceresi tahminleri gibi sezgisel değerlendirmeleri zorunlu kılar.
Mod Çökmesi ("The Helvetica Scenario"): Eğer $G$ , yeterli ayırt edici güncellemesi olmadan aşırı eğitilirse, birçok farklı $z$ değerini aynı $x$ çıktılarına çökertebilir ve $p_{data}$ 'nın tüm çeşitliliğini yakalamada başarısız olabilir.
Eğitim Kararsızlığı: Dejeneratif dinamikleri veya gradyan kaybolmasını önlemek için eğitim boyunca $D$ ve $G$ dikkatli bir şekilde dengede tutulmalıdır.

Temel terimler

Generative Adversarial Nets: Bir üretici ağ ile bir ayırt edici ağın iki oyunculu bir minimaks oyununda yarıştığı üretici modelleri eğitme çerçevesi.
Generator ($G$): Gerçek veri dağılımı $p_{data}$ 'yı yakalamak için gizil önsel gürültü $z$ 'yi veri uzayına eşleyen türevlenebilir bir yapay sinir ağı.
Discriminator ($D$): Bir girdi örneğinin üretici yerine gerçek veri kümesinden gelme olasılığını tahmin etmek için eğitilmiş bir yapay sinir ağı sınıflandırıcısı.
Jensen–Shannon Divergence (JSD): İki olasılık dağılımı arasındaki mesafenin simetrik ve sınırlı bir ölçüsü; GAN minimaks amacı, $p_{data}$ ile $p_{g}$ arasındaki JSD sıfır olduğunda minimize edilir.
Helvetica Scenario: Üreticinin çeşitlilik eksikliği nedeniyle birçok farklı gizil gürültü vektörünü $z$ tamamen aynı veri noktasına $x$ eşlediği başarısızlık modu (günümüzde yaygın olarak mod çökmesi - mode collapse olarak bilinir).
Gaussian Parzen Window: Yazarlar tarafından üretici örneklerinden test kümesi log-olabilirliğini yaklaşık olarak tahmin etmek için kullanılan parametrik olmayan bir çekirdek yoğunluğu kestirimi yöntemi.
Non-saturating game: Eğitimin başlarında gradyan kaybolmasını önlemek için $lo g (1 - D (G (z)))$ değerini minimize etmek yerine $lo g D (G (z))$ değerini maksimize etmeye dayanan pratik alternatif üretici amacı.

Sorular

Üretici için orijinal minimaks kaybı $\log(1 - D(G(\bm{z})))$ neden değiştirildi?

Eğitimin başlarında, üretici yetersiz örnekler ürettiğinde, ayırt edici bunları yüksek güvenle kolayca sahte olarak sınıflandırır. Bu durum $lo g (1 - D (G (z)))$ fonksiyonunun doyuma ulaşmasına ve çok küçük gradyanlar üretmesine neden olur. Bunun yerine $lo g D (G (z))$ maksimize edildiğinde, aynı sabit nokta korunurken başlangıçta çok daha güçlü gradyanlar sağlanır.

Oyunun teorik optimal değeri nedir?

$G$ küresel optimuma ulaştığında ( $p_{g} = p_{data}$ ), optimal ayırt edici her yerde $D^{*} (x) = \frac{1}{2}$ tahmininde bulunur ve değer fonksiyonu $- lo g 4$ değerine ulaşır.

GAN'lar, RBM veya GSN gibi dönemin çağdaş üretici modellerine kıyasla neden avantajlıydı?

Örnekleme için Markov zincirlerine ihtiyaç duymazlar, çözülemeyen bölüşüm fonksiyonu yaklaşımları gerektirmezler, eğitim sırasında açık çıkarım adımlarından kaçınırlar ve ReLU ile maxout gibi modern aktivasyonlarla tamamen geri yayılım kullanılarak eğitilebilirler.

Makalede ayırt edici adımları $k$ için hiperparametre ayarı neydi?

Yazarlar, deneylerinde hesaplama açısından en az maliyetli seçenek olarak üretici güncellemesi başına $k = 1$ ayırt edici güncellemesi kullanmıştır.

Bu sayfadaki açıklama yapay zekâ tarafından makaleden yazılmıştır ve hata içerebilir. Ayrıntılar için makaleyi okuyun.

Çeviri ve yapay zekâ ile oku