Generative Adversarial Networks

Ian J. Goodfellow; Jean Pouget-Abadie; Mehdi Mirza; Bing Xu; David Warde-Farley; Sherjil Ozair; Aaron Courville; Yoshua Bengio

Makalah · arXiv 1406.2661

Generative Adversarial Networks

Ian J. Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, Yoshua Bengio

Terbit 2014-06-10stat.MLcs.LG arXiv PDF

Baca dengan terjemahan dan AI

Ringkasan tiga baris

🎯 Model generatif mendalam mengalami kesulitan dengan komputasi probabilistik yang sukar diselesaikan (intractable), fungsi partisi tak ternormalisasi, dan ketergantungan pada rantai Markov.
🔧 Memformulasikan pemodelan generatif sebagai permainan minimax dua pemain antara generator $G$ dan diskriminator $D$ , yang dapat dilatih via backpropagation.
📈 Mencapai optimalitas global saat $p_{g} = p_{data}$ dan meraih log-likelihood jendela Parzen Gaussian sebesar $225 \pm 2$ pada MNIST serta $2057 \pm 26$ pada TFD.

Abstrak

Kami mengusulkan sebuah kerangka kerja baru untuk mengestimasi model generatif melalui proses adversarial, di mana kami melatih dua model secara simultan: model generatif G yang menangkap distribusi data, dan model diskriminatif D yang mengestimasi probabilitas bahwa suatu sampel berasal dari data pelatihan alih-alih dari G. Prosedur pelatihan untuk G adalah memaksimalkan probabilitas D membuat kesalahan. Kerangka kerja ini berpadanan dengan permainan minimax dua pemain. Dalam ruang fungsi arbitrer G dan D, terdapat solusi unik, dengan G memulihkan distribusi data pelatihan dan D bernilai 1/2 di mana-mana. Dalam kasus ketika G dan D didefinisikan oleh multilayer perceptron, keseluruhan sistem dapat dilatih menggunakan backpropagation. Tidak diperlukan rantai Markov atau unrolled approximate inference networks baik selama pelatihan maupun saat pembuatan sampel. Eksperimen menunjukkan potensi kerangka kerja ini melalui evaluasi kualitatif dan kuantitatif dari sampel yang dihasilkan.

Abstrak asli (bahasa Inggris)

We propose a new framework for estimating generative models via an adversarial process, in which we simultaneously train two models: a generative model G that captures the data distribution, and a discriminative model D that estimates the probability that a sample came from the training data rather than G. The training procedure for G is to maximize the probability of D making a mistake. This framework corresponds to a minimax two-player game. In the space of arbitrary functions G and D, a unique solution exists, with G recovering the training data distribution and D equal to 1/2 everywhere. In the case where G and D are defined by multilayer perceptrons, the entire system can be trained with backpropagation. There is no need for any Markov chains or unrolled approximate inference networks during either training or generation of samples. Experiments demonstrate the potential of the framework through qualitative and quantitative evaluation of the generated samples.

Panduan membaca

Masalah dan motivasi

Deep learning mencapai keberhasilan luar biasa dalam tugas-tugas diskriminatif dengan memanfaatkan backpropagation, dropout, dan piecewise linear units. Sebaliknya, model generatif mendalam memiliki dampak yang jauh lebih terbatas akibat hambatan komputasi yang parah: fungsi partisi yang sukar diselesaikan (intractable), inferensi perkiraan yang sulit, serta kebutuhan akan metode Markov Chain Monte Carlo (MCMC) selama pelatihan dan pembuatan sampel. Algoritma MCMC sering kali mengalami pencampuran (mixing) yang lambat antarmoda. Para penulis berusaha merancang kerangka kerja generatif yang meniadakan kebutuhan akan rantai Markov atau jaringan inferensi perkiraan, baik selama pelatihan maupun generasi sampel.

Ide-ide utama

Adversarial Framework: Membingkai pemodelan generatif sebagai permainan minimax antara dua multilayer perceptron: generator $G$ (dianalogikan sebagai pemalsu uang) dan diskriminator $D$ (dianalogikan sebagai polisi).
Pengambilan Sampel via Perambatan Maju (Forward Propagation): Generator $G (z; θ_{g})$ secara langsung mentransformasikan derau acak $z \sim p_{z}$ menjadi sampel data sintetis menggunakan komputasi feedforward standar.
Aliran Gradien Langsung: Generator diperbarui semata-mata melalui gradien yang dirambatkan mundur (backpropagated) melalui diskriminator, bukan dengan mencocokkan contoh-contoh pelatihan individual secara langsung.
Koneksi Teoretis ke Divergensi: Dalam batas nonparametrik ketika $G$ dan $D$ memiliki kapasitas tak terbatas, mengoptimalkan fungsi objektif minimax akan meminimalkan divergensi Jensen–Shannon antara distribusi data riil $p_{data}$ dan distribusi model $p_{g}$ .

Metode (dengan persamaan-persamaan kunci)

Sistem ini terdiri dari generator $G (z; θ_{g})$ yang memetakan prior laten $p_{z} (z)$ ke ruang data, dan diskriminator $D (x; θ_{d})$ yang memprediksi probabilitas bahwa $x$ berasal dari $p_{data}$ alih-alih dari $p_{g}$ .

Fungsi nilai minimax adalah: $G min D max V (D, G) = E_{x \sim p_{data} (x)} [lo g D (x)] + E_{z \sim p_{z} (z)} [lo g (1 - D (G (z)))]$

Untuk sembarang generator $G$ yang tetap, diskriminator optimal diturunkan secara analitis sebagai: $D_{G}^{*} (x) = \frac{p _{data} ( x )}{p _{data} ( x ) + p _{g} ( x )}$

Menyubstitusikan $D_{G}^{*}$ ke dalam $V (D, G)$ menghasilkan kriteria pelatihan virtual $C (G) = max_{D} V (G, D)$ , yang dapat disederhanakan menjadi: $C (G) = - lo g (4) + 2 \cdot J S D (p_{data} ∥ p_{g})$ Nilai minimum global tercapai secara unik saat $p_{g} = p_{data}$ , menghasilkan $C (G) = - lo g 4$ dan $D^{*} (x) = \frac{1}{2}$ di mana-mana.

Algoritma Pelatihan:

Optimasi bergantian: latih $D$ sebanyak $k$ langkah ( $k = 1$ digunakan secara eksperimental) menggunakan pendakian gradien (gradient ascent) pada minibatch berukuran $m$ : $\nabla_{θ_{d}} \frac{1}{m} i = 1 \sum m [lo g D (x^{(i)}) + lo g (1 - D (G (z^{(i)})))]$
Perbarui $G$ dengan satu langkah penurunan gradien (gradient descent). Karena $lo g (1 - D (G (z)))$ dapat mengalami saturasi pada awal pelatihan saat $D$ dengan mudah menolak sampel buruk generator, $G$ secara praktis diperbarui dengan memaksimalkan $lo g D (G (z))$ .

Hasil (dengan angka-angka terpenting)

Para penulis mengevaluasi jaringan adversarial pada MNIST, Toronto Face Database (TFD), dan CIFAR-10. Karena GAN tidak menyediakan likelihood bentuk tertutup, kinerja dinilai secara kuantitatif dengan mencocokkan jendela Parzen Gaussian ke sampel yang dihasilkan dan menghitung log-likelihood set pengujian:

MNIST: Jaringan adversarial mencapai rata-rata log-likelihood sebesar $225 \pm 2$ , mengungguli Deep Belief Networks ( $138 \pm 2$ ), Stacked Contractive Autoencoders ( $121 \pm 1.6$ ), dan Deep Generative Stochastic Networks ( $214 \pm 1.1$ ).
TFD: Jaringan adversarial meraih $2057 \pm 26$ , kompetitif dengan Stacked CAE ( $2110 \pm 50$ ) dan melampaui DBN ( $1909 \pm 66$ ) serta Deep GSN ( $1890 \pm 29$ ).
Generasi Kualitatif: Inspeksi visual dari sampel acak mengonfirmasi kualitas tinggi tanpa menghafal data (diverifikasi dengan menampilkan tetangga pelatihan terdekat) dan menunjukkan interpolasi ruang laten yang mulus pada $z$ .

Keterbatasan dan pertanyaan terbuka

Tanpa Fungsi Kepadatan Eksplisit: Model ini mengambil sampel $p_{g} (x)$ secara implisit, membuat evaluasi kepadatan eksak menjadi tidak mungkin dilakukan (intractable) dan memerlukan evaluasi heuristik seperti estimasi jendela Parzen.
Mode Collapse ("The Helvetica Scenario"): Jika $G$ dilatih secara berlebihan tanpa pembaruan diskriminator yang cukup, $G$ dapat meruntuhkan banyak nilai $z$ yang berbeda ke output $x$ yang identik, gagal menangkap keragaman penuh dari $p_{data}$ .
Ketidakstabilan Pelatihan: $D$ dan $G$ harus dijaga tetap seimbang secara hati-hati sepanjang pelatihan guna mencegah dinamika degeneratif atau lenyapnya gradien (vanishing gradient).

Istilah kunci

Generative Adversarial Nets: Kerangka kerja untuk melatih model generatif di mana jaringan generator dan jaringan diskriminator bersaing dalam permainan minimax dua pemain.
Generator ($G$): Jaringan saraf terdiferensialkan yang memetakan derau prior laten $z$ ke dalam ruang data untuk mengaproksimasi distribusi data riil $p_{data}$ .
Discriminator ($D$): Pengklasifikasi jaringan saraf yang dilatih untuk mengestimasi probabilitas bahwa sampel masukan berasal dari dataset riil alih-alih dari generator.
Jensen–Shannon Divergence (JSD): Ukuran jarak yang simetris dan berbatas antara dua distribusi probabilitas; fungsi objektif minimax GAN diminimalkan saat JSD antara $p_{data}$ dan $p_{g}$ bernilai nol.
Helvetica Scenario: Modus kegagalan (kini umumnya dikenal sebagai mode collapse) di mana generator memetakan banyak vektor derau laten $z$ yang berbeda ke titik data $x$ yang sama persis karena kurangnya keragaman.
Gaussian Parzen Window: Metode estimasi kepadatan kernel nonparametrik yang digunakan oleh penulis untuk memperkirakan log-likelihood set pengujian dari sampel generator.
Non-saturating game: Alternatif praktis dari fungsi objektif generator yang memaksimalkan $lo g D (G (z))$ alih-alih meminimalkan $lo g (1 - D (G (z)))$ untuk mencegah lenyapnya gradien pada awal pelatihan.

Pertanyaan

Mengapa mengganti loss minimax asli $\log(1 - D(G(\bm{z})))$ untuk generator?

Pada awal pelatihan, ketika generator menghasilkan sampel yang buruk, diskriminator dapat dengan mudah mengklasifikasikannya sebagai sampel palsu dengan keyakinan tinggi. Hal ini menyebabkan $lo g (1 - D (G (z)))$ mengalami saturasi, menghasilkan gradien yang sangat kecil. Memaksimalkan $lo g D (G (z))$ memberikan gradien yang jauh lebih kuat di awal sembari mempertahankan titik tetap (fixed point) yang sama.

Berapakah nilai optimal teoretis dari permainan ini?

Ketika $G$ mencapai optimum global ( $p_{g} = p_{data}$ ), diskriminator optimal memprediksi $D^{*} (x) = \frac{1}{2}$ di mana-mana, dan fungsi nilai mencapai $- lo g 4$ .

Mengapa GAN lebih menguntungkan dibandingkan model generatif kontemporer saat itu seperti RBM atau GSN?

GAN tidak memerlukan rantai Markov untuk pengambilan sampel, tidak memerlukan aproksimasi fungsi partisi yang sukar diselesaikan (intractable), menghindari langkah inferensi eksplisit selama pelatihan, dan dapat dilatih murni menggunakan backpropagation dengan fungsi aktivasi modern seperti ReLU dan maxout.

Berapa pengaturan hiperparameter untuk langkah diskriminator $k$ dalam makalah ini?

Penulis menggunakan $k = 1$ pembaruan diskriminator per satu pembaruan generator dalam eksperimen mereka sebagai opsi yang paling hemat secara komputasi.

Ulasan di halaman ini ditulis oleh AI dari makalah dan mungkin mengandung kesalahan. Baca makalahnya untuk detail.

Baca dengan terjemahan dan AI