Generative Adversarial Networks

Leseleitfaden

Problemstellung und Motivation

Deep Learning erzielte dramatische Erfolge bei diskriminativen Aufgaben durch den Einsatz von Backpropagation, Dropout und stückweise linearen Aktivierungsfunktionen. Im Gegensatz dazu hatten tiefe generative Modelle weitaus weniger Einfluss, bedingt durch gravierende rechnerische Engpässe: unlösbare Zustandssummen (Partition Functions), schwierige approximative Inferenz und die Notwendigkeit von Markov-Chain-Monte-Carlo-Methoden (MCMC) während des Trainings und der Stichprobengenerierung. MCMC-Algorithmen leiden häufig unter einem langsamen Mischen (Mixing) zwischen den Modi. Die Autoren setzten sich das Ziel, ein generatives Framework zu entwerfen, das weder während des Trainings noch bei der Generierung auf Markov-Ketten oder approximative Inferenznetzwerke angewiesen ist.

Kernideen

• Adversarielles Framework: Die generative Modellierung wird als Minimax-Spiel zwischen zwei mehrschichtigen Perzeptrons formuliert: einem Generator $G$ (analog zu Fälschern) und einem Diskriminator $D$ (analog zur Polizei).
• Sampling mittels Vorwärtspropagierung: Der Generator $G(\mathbf{z};{\theta }_g)$ transformiert Zufallsrauschen $\mathbf{z}\sim p_{\mathbf{z}}$ mittels standardmäßiger Feedforward-Berechnung direkt in synthetische Datenstichproben.
• Direkter Gradientenfluss: Der Generator wird ausschließlich über Gradienten aktualisiert, die rückwärts durch den Diskriminator propagiert werden, anstatt sich direkt an einzelne Trainingsbeispiele anzupassen.
• Theoretische Verbindung zu Divergenzen: Im nicht-parametrischen Grenzfall, in dem $G$ und $D$ unendliche Kapazität besitzen, minimiert die Optimierung des Minimax-Ziels die Jensen-Shannon-Divergenz zwischen der realen Datenverteilung $p_{\text{data}}$ und der Modellverteilung $p_g$.

Methode (mit den zentralen Gleichungen)

Das System besteht aus dem Generator $G(\mathbf{z};{\theta }_g)$, der eine latente Prior-Verteilung $p_{\mathbf{z}}(\mathbf{z})$ in den Datenraum abbildet, und dem Diskriminator $D(\mathbf{x};{\theta }_d)$, der die Wahrscheinlichkeit vorhersagt, dass $\mathbf{x}$ aus $p_{\text{data}}$ und nicht aus $p_g$ stammt.

Die Minimax-Wertfunktion lautet: $$\underset{G}{\min }\underset{D}{\max }V(D,G)={\mathbb{E}}_{\mathbf{x}\sim p_{\text{data}}(\mathbf{x})}[\log D(\mathbf{x})]+{\mathbb{E}}_{\mathbf{z}\sim p_{\mathbf{z}}(\mathbf{z})}[\log (1-D(G(\mathbf{z})))]$$

Für jeden festen Generator $G$ lässt sich der optimale Diskriminator analytisch herleiten als: $$D_G^{\ast }(\mathbf{x})=\frac{p_{\text{data}}(\mathbf{x})}{p_{\text{data}}(\mathbf{x})+p_g(\mathbf{x})}$$

Das Einsetzen von $D_G^{\ast }$ in $V(D,G)$ liefert das virtuelle Trainingskriterium $C(G)={\max }_{D}V(G,D)$, welches sich vereinfachen lässt zu: $$C(G)=-\log (4)+2\cdot JSD(p_{\text{data}}\parallel p_g)$$ Das globale Minimum wird genau dann erreicht, wenn $p_g=p_{\text{data}}$, was zu $C(G)=-\log 4$ und $D^{\ast }(\mathbf{x})=\frac{1}{2}$ überall führt.

Trainingsalgorithmus:

1. Alternierende Optimierung: Trainiere $D$ für $k$ Schritte ($k=1$ wurde experimentell verwendet) mittels Gradientenaufstieg auf Minibatches der Größe $m$: $${\nabla }_{{\theta }_d}\frac{1}{m}\sum _{i=1}^m\left[\log D\left({\mathbf{x}}^{(i)}\right)+\log \left(1-D\left(G\left({\mathbf{z}}^{(i)}\right)\right)\right)\right]$$
2. Aktualisiere $G$ mit einem Gradientenabstiegsschritt. Da $\log (1-D(G(\mathbf{z})))$ zu Beginn des Trainings saturieren kann, wenn $D$ minderwertige Generator-Stichproben leicht zurückweist, wird $G$ in der Praxis stattdessen durch die Maximierung von $\log D(G(\mathbf{z}))$ aktualisiert.

Ergebnisse (mit den wichtigsten Kennzahlen)

Die Autoren evaluierten die adversariellen Netze auf MNIST, der Toronto Face Database (TFD) und CIFAR-10. Da GANs keine geschlossene Likelihood-Funktion bieten, wurde die Leistung quantitativ bewertet, indem ein Gauß-Parzen-Fenster an die generierten Stichproben angepasst und die Log-Likelihood auf dem Testdatensatz berechnet wurde:

• MNIST: Adversarielle Netze erzielten eine mittlere Log-Likelihood von $225\pm 2$ und übertrafen damit Deep Belief Networks ($138\pm 2$), Stacked Contractive Autoencoders ($121\pm 1.6$) und Deep Generative Stochastic Networks ($214\pm 1.1$).
• TFD: Adversarielle Netze erreichten $2057\pm 26$, was konkurrenzfähig zu Stacked CAEs ($2110\pm 50$) war und DBNs ($1909\pm 66$) sowie Deep GSNs ($1890\pm 29$) übertraf.
• Qualitative Generierung: Die visuelle Inspektion von Zufallsstichproben bestätigte eine hohe Qualität ohne Memorierung (verifiziert durch die Anzeige der nächsten Trainingsnachbarn) und zeigte weiche Interpolationen im latenten Raum $\mathbf{z}$.

Grenzen und offene Fragen

• Keine explizite Dichtefunktion: Das Modell zieht implizit Stichproben aus $p_g(\mathbf{x})$, wodurch eine exakte Dichteberechnung unlösbar wird und heuristische Auswertungen wie Parzen-Fenster-Schätzungen erforderlich sind.
• Mode Collapse (»The Helvetica Scenario«): Wenn $G$ zu stark ohne ausreichende Updates des Diskriminators trainiert wird, kann $G$ viele verschiedene $\mathbf{z}$-Werte auf identische $\mathbf{x}$-Ausgaben kollabieren lassen und so die Diversität von $p_{\text{data}}$ verfehlen.
• Trainingsinstabilität: $D$ und $G$ müssen während des gesamten Trainings sorgfältig ausbalanciert bleiben, um degenerierte Dynamiken oder verschwindende Gradienten zu verhindern.