目录

• GANs的优缺点
• some notes
• 代码

参考：微信公众号”学术兴趣小组”文章

微信公众号”学术兴趣小组”文章：gan应用情况调研

GANs的优缺点

优点：

• 相比于FVBNs（全可见信念网络，Fully visible belief networks）模型，GANs能并行生成样本，不需要逐维产生。
• 相比于玻尔兹曼机（Boltzmann machines）、非线性ICA（non-linear ICA）等生成模型，GANs对Generator的设计的限制很少。
• 理论上保证了某些GANs能够收敛到纳什均衡。

缺点：

• 训练GANs实际上是在找纳什均衡解，这比优化一个目标函数要困难。
• GANs生成的图像比较sharp，也就是说，它倾向于生成相似的图像。作者在2016 NIPS tutorial中指出，这个缺陷与采用何种KL散度作为loss无关，而可能是与训练过程有关。详细的讨论可以参看参考文献2的3.2.5和5.1.1章节。

some notes

Generative Adversarial Nets, Goodfellow et al, NIPS 2014

https://ishmaelbelghazi.github.io/ALI

DCGAN: Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks, Radford et al, ICLR 2015

反卷积（实际是卷积把步长调成>=2）

• 擅长生成特定Domain 里的小图片
• 向量空间运算（类word embedding）

模型崩溃——minibatch GAN （Salimans et al, NIPS 2016）

Generative Adversarial Text to Image Synthesis, Reed et al, ICML 2016 原来GAN输入只是噪音，现在多一些其他维度的描述（例如，文本）

Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network, Ledig et al, arxiv 2016

针对小数据集，传统方法+nn比直接上nn其实差不多（deepface）

代码

• Theano+pylearn2版本（Goodfellow提供）： https://github.com/goodfeli/adversarial
• Keras版本： https://github.com/jhayes14/GAN
• Tensorflow版本（含GANs+VAEs+DRAW）： https://github.com/ikostrikov/TensorFlow-VAE-GAN-DRAW