Generative Adversarial Networks

Ian J. Goodfellow; Jean Pouget-Abadie; Mehdi Mirza; Bing Xu; David Warde-Farley; Sherjil Ozair; Aaron Courville; Yoshua Bengio

Artigos · arXiv 1406.2661

Generative Adversarial Networks

Ian J. Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, Yoshua Bengio

Publicado em 2014-06-10stat.MLcs.LG arXiv PDF

Ler com tradução e IA

Resumo em três linhas

🎯 Modelos generativos profundos enfrentavam dificuldades com computações probabilísticas intratáveis, funções de partição não normalizadas e dependência de cadeias de Markov.
🔧 Formula a modelagem generativa como um jogo minimax de dois jogadores entre um gerador $G$ e um discriminador $D$ , treinável via backpropagation.
📈 Atinge a otimalidade global onde $p_{g} = p_{data}$ e alcança log-verossimilhança com janela de Parzen gaussiana de $225 \pm 2$ no MNIST e $2057 \pm 26$ no TFD.

Resumo

Propomos um novo framework para estimar modelos generativos por meio de um processo adversarial, no qual treinamos simultaneamente dois modelos: um modelo generativo G que captura a distribuição dos dados e um modelo discriminativo D que estima a probabilidade de uma amostra ter vindo dos dados de treinamento em vez de G. O procedimento de treinamento para G consiste em maximizar a probabilidade de D cometer um erro. Esse framework corresponde a um jogo minimax de dois jogadores. No espaço de funções arbitrárias G e D, existe uma solução única, com G recuperando a distribuição dos dados de treinamento e D igual a 1/2 em toda parte. No caso em que G e D são definidos por perceptrons multicamadas, todo o sistema pode ser treinado com backpropagation. Não há necessidade de cadeias de Markov ou de redes de inferência aproximada desenroladas durante o treinamento ou a geração de amostras. Experimentos demonstram o potencial do framework por meio de avaliações qualitativas e quantitativas das amostras geradas.

Resumo original (inglês)

We propose a new framework for estimating generative models via an adversarial process, in which we simultaneously train two models: a generative model G that captures the data distribution, and a discriminative model D that estimates the probability that a sample came from the training data rather than G. The training procedure for G is to maximize the probability of D making a mistake. This framework corresponds to a minimax two-player game. In the space of arbitrary functions G and D, a unique solution exists, with G recovering the training data distribution and D equal to 1/2 everywhere. In the case where G and D are defined by multilayer perceptrons, the entire system can be trained with backpropagation. There is no need for any Markov chains or unrolled approximate inference networks during either training or generation of samples. Experiments demonstrate the potential of the framework through qualitative and quantitative evaluation of the generated samples.

Guia de leitura

Problema e motivação

O aprendizado profundo alcançou um sucesso impressionante em tarefas discriminativas aproveitando backpropagation, dropout e unidades lineares por partes. Em contraste, os modelos generativos profundos tiveram um impacto bem menor devido a severos gargalos computacionais: funções de partição intratáveis, inferência aproximada difícil e a necessidade de métodos de Monte Carlo via Cadeias de Markov (MCMC) durante o treinamento e a geração de amostras. Algoritmos de MCMC frequentemente sofrem com a mistura lenta entre modos. Os autores se propuseram a projetar um framework generativo que elimina a necessidade de cadeias de Markov ou redes de inferência aproximada tanto durante o treinamento quanto na geração.

Principais ideias

Framework Adversarial: Estrutura a modelagem generativa como um jogo minimax entre dois perceptrons multicamadas: um gerador $G$ (análogo a falsificadores) e um discriminador $D$ (análogo à polícia).
Amostragem via Propagação Direta (Forward): O gerador $G (z; θ_{g})$ transforma diretamente ruído aleatório $z \sim p_{z}$ em amostras sintéticas de dados usando computação feedforward padrão.
Fluxo Direto de Gradientes: O gerador é atualizado exclusivamente por meio de gradientes retropropagados através do discriminador, em vez de se ajustar diretamente a exemplos individuais de treinamento.
Conexão Teórica com Divergências: No limite não paramétrico onde $G$ e $D$ possuem capacidade infinita, otimizar o objetivo minimax minimiza a divergência de Jensen–Shannon entre a distribuição real dos dados $p_{data}$ e a distribuição do modelo $p_{g}$ .

Método (com as equações principais)

O sistema é composto por um gerador $G (z; θ_{g})$ , que mapeia a priori latente $p_{z} (z)$ para o espaço de dados, e um discriminador $D (x; θ_{d})$ , que prevê a probabilidade de $x$ ser originário de $p_{data}$ em vez de $p_{g}$ .

A função de valor minimax é: $G min D max V (D, G) = E_{x \sim p_{data} (x)} [lo g D (x)] + E_{z \sim p_{z} (z)} [lo g (1 - D (G (z)))]$

Para qualquer gerador fixo $G$ , o discriminador ótimo é derivado analiticamente como: $D_{G}^{*} (x) = \frac{p _{data} ( x )}{p _{data} ( x ) + p _{g} ( x )}$

Substituindo $D_{G}^{*}$ em $V (D, G)$ , obtém-se o critério de treinamento virtual $C (G) = max_{D} V (G, D)$ , que se reduz a: $C (G) = - lo g (4) + 2 \cdot J S D (p_{data} ∥ p_{g})$ O mínimo global é alcançado unicamente quando $p_{g} = p_{data}$ , resultando em $C (G) = - lo g 4$ e $D^{*} (x) = \frac{1}{2}$ em todos os pontos.

Algoritmo de Treinamento:

Otimização alternada: treina-se $D$ por $k$ passos ( $k = 1$ usado experimentalmente) utilizando subida de gradiente em minibatches de tamanho $m$ : $\nabla_{θ_{d}} \frac{1}{m} i = 1 \sum m [lo g D (x^{(i)}) + lo g (1 - D (G (z^{(i)})))]$
Atualiza-se $G$ com um passo de descida de gradiente. Como $lo g (1 - D (G (z)))$ pode saturar no início do treinamento quando $D$ rejeita facilmente as amostras ruins do gerador, na prática $G$ é atualizado maximizando $lo g D (G (z))$ .

Resultados (com os números mais importantes)

Os autores avaliaram as redes adversariais nos conjuntos de dados MNIST, Toronto Face Database (TFD) e CIFAR-10. Como as GANs não oferecem uma verossimilhança de forma fechada, o desempenho foi avaliado quantitativamente ajustando uma janela de Parzen gaussiana às amostras geradas e calculando a log-verossimilhança no conjunto de teste:

MNIST: As redes adversariais alcançaram uma log-verossimilhança média de $225 \pm 2$ , superando Deep Belief Networks ( $138 \pm 2$ ), Stacked Contractive Autoencoders ( $121 \pm 1.6$ ) e Deep Generative Stochastic Networks ( $214 \pm 1.1$ ).
TFD: As redes adversariais atingiram $2057 \pm 26$ , valor competitivo com Stacked CAEs ( $2110 \pm 50$ ) e superior a DBNs ( $1909 \pm 66$ ) e Deep GSNs ( $1890 \pm 29$ ).
Geração Qualitativa: A inspeção visual de amostras aleatórias confirmou alta qualidade sem memorização (verificada pela exibição dos vizinhos mais próximos do treino) e demonstrou interpolações suaves no espaço latente $z$ .

Limitações e questões em aberto

Ausência de Função de Densidade Explícita: O modelo amostra implicitamente de $p_{g} (x)$ , tornando a avaliação exata da densidade intratável e exigindo avaliações heurísticas, como estimativas por janela de Parzen.
Colapso de Modo ("The Helvetica Scenario"): Se $G$ for treinado excessivamente sem atualizações suficientes do discriminador, $G$ pode colapsar muitos valores distintos de $z$ em saídas idênticas de $x$ , falhando em capturar toda a diversidade de $p_{data}$ .
Instabilidade de Treinamento: $D$ e $G$ devem permanecer cuidadosamente balanceados durante o treinamento para evitar dinâmicas degeneradas ou desvanecimento de gradientes.

Termos-chave

Generative Adversarial Nets: Um framework para treinamento de modelos generativos no qual uma rede geradora e uma rede discriminadora competem em um jogo minimax de dois jogadores.
Generator ($G$): Uma rede neural diferenciável que mapeia ruído latente a priori $z$ para o espaço de dados a fim de aproximar a distribuição real dos dados $p_{data}$ .
Discriminator ($D$): Um classificador em rede neural treinado para estimar a probabilidade de uma amostra de entrada ter vindo do conjunto de dados real em vez do gerador.
Jensen–Shannon Divergence (JSD): Uma medida simétrica e limitada de distância entre duas distribuições de probabilidade; o objetivo minimax da GAN é minimizado quando a JSD entre $p_{data}$ e $p_{g}$ é zero.
Helvetica Scenario: O modo de falha (atualmente conhecido como colapso de modo) no qual o gerador mapeia muitos vetores de ruído latente $z$ distintos para exatamente o mesmo ponto de dados $x$ por falta de diversidade.
Gaussian Parzen Window: Um método não paramétrico de estimação de densidade por kernel utilizado pelos autores para aproximar a log-verossimilhança no conjunto de teste a partir das amostras do gerador.
Non-saturating game: O objetivo prático alternativo para o gerador de maximizar $lo g D (G (z))$ em vez de minimizar $lo g (1 - D (G (z)))$ , evitando o desvanecimento de gradientes no início do treinamento.

Perguntas

Por que substituir a perda minimax original $\log(1 - D(G(\bm{z})))$ para o gerador?

No início do treinamento, quando o gerador produz amostras de baixa qualidade, o discriminador as classifica facilmente como falsas com alta confiança. Isso faz com que $lo g (1 - D (G (z)))$ sature, gerando gradientes muito pequenos. Maximizar $lo g D (G (z))$ fornece gradientes muito mais fortes no início, preservando o mesmo ponto fixo.

Qual é o valor ótimo teórico do jogo?

Quando $G$ atinge o ótimo global ( $p_{g} = p_{data}$ ), o discriminador ótimo prevê $D^{*} (x) = \frac{1}{2}$ em todos os pontos, e a função de valor atinge $- lo g 4$ .

Por que as GANs eram vantajosas em comparação com modelos generativos contemporâneos, como RBMs ou GSNs?

Elas não exigem cadeias de Markov para amostragem, não requerem aproximações intratáveis de funções de partição, evitam etapas explícitas de inferência durante o treinamento e podem ser treinadas puramente usando backpropagation com ativações modernas como ReLUs e maxout.

Qual foi a configuração de hiperparâmetro para os passos do discriminador $k$ no artigo?

Os autores utilizaram $k = 1$ atualização do discriminador por atualização do gerador em seus experimentos como a opção computacionalmente mais econômica.

A explicação desta página foi escrita por IA a partir do artigo e pode conter erros. Consulte o artigo para os detalhes.

Ler com tradução e IA