生成对抗网络损失函数图 生成对抗网络算法

学习记录（三）

1. 生成对抗网络（GAN）

Algorithm：
Initialize θ_d for D（discriminator）and θ_g for G（generator）

• 在每一个训练迭代周期：

1. 从database中采样出m个数据{x¹，x²，…，x^m}
2. 从一个噪声分布（正态分布、高斯分布等）中采样出m个random vector{z¹，z²，…，z^m}
3. 由采样得到的m个vector得到m张image（一个vector经过generator后产生一个image），即
4. 更新discriminator的参数θ_d 来最大化：
   
   
   第一个式子表示通过discriminator网络后真实图片（xⁱ）的得分高，generator产生的图片（x一把ⁱ）的得分低 。
   第二个式子表示梯度上升法（加号），不断更新，使得第一个式子的V越大越好。

到此为止上面为discriminator网络。

接下来为generator网络。

5. 从一个噪声分布（正态分布、高斯分布等）中采样出m个random vector {z¹，z²，…，z^m}（不需要与2中的相同）
6. 更新generator的参数θ_g 来最大化：
   
   
   第一个式子表明希望generator产生的图片通过discriminator后的分数越大越好。
   第二个式子表示梯度上升法（加号），不断更新，使得第一个式子的V越大越好。

discriminator网络和generator网络会反复的执行。

GAN as structured learning

structured learning：output a sequence，a matrix，a graph，a tree… 当模型输出复杂时，为结构模型。

• Generator（Bottom Up）: Learn to generate the object at the component level
• Discriminator（Top Down）: Evaluating the whole object, and find the best one

Auto-encoder:

Generator相当于图中的Decoder，Randomly generate a vector as code，然后这个code通过Generator产生Image。

Variational Auto-encoder（VAE）:

Discriminator：

• Discriminator is a function D（network，can deep）
  Input x：an object x（e.g. an image）
  Output D(X)：scalar which represents how “good” an object x is
• Suppose we already have a good discriminator D(x)…



• 所以其实discriminator自己也可以产生输出。

Discriminator - Training：

• General Algorithm

1. Given a set of positive examples，randomly generate a set of negative examples.
2. In each iteration，learn a discriminator D that can discriminate positive and negative examples.
3. Generate negative examples by discriminator D.

（即不断用discriminator生成的图像去替换negative examples）

如图，蓝色的即为negative examples。看哪些非目标的分数高，就把negative examples移过去作为新的negative examples.

最后重合的时候训练结束：

Discriminator - Generator之间的区别：

• Generator：
  优点是容易产生图片，缺点是只能学习表象，很难学习pixel之间的联系，只是生硬地模仿。
• Discriminator：
  优点是它会考虑大局，缺点是negative采样很难搞嘞。

Discriminator + Generator：

就是把：

换成：

即用Generator去产生negative examples.

妙啊

2. Conditional GAN

Generator：

discriminator：

discriminator需要考虑两个问题：x是否真实，c和x是否match。

Algorithm：

• 在每个训练迭代周期：

1. 从database中采样m个positive examples{(c¹，x¹)，(c²，x²)，……，(c^m，x^m)}（c是text，x是image）
2. 从一个噪声分布中采样出m个random vector{z¹，z²，…，z^m}
3. 由采样得到的positive examples和噪声得到m张image，即
4. 再去database里去采样m个positive examples {x¹，x²，……，x^m}
5. 更新discriminator的参数θ_d 来最大化：
   
   
   第一个式子表示c和x配对则得分高(logD(cⁱ，xⁱ))，而一段文字c和generate出来的x配对则为低分（第二项），而一段文字c和从database出来的x配对也为低分（第三项）。
   第二个式子表示梯度上升法（加号），不断更新，使得第一个式子的V越大越好。

到此为止上面为discriminator网络。

接下来为generator网络。

5. 从一个噪声分布中采样出m个random vector {z¹，z²，…，z^m}（不需要与2中的相同）
6. 从database的m种condition中采样出m个{c¹，c²，…，c^m}
7. 更新generator的参数θ_g 来最大化：
   
   
   第一个式子表明希望generator产生的图片通过discriminator后的分数越大越好。
   第二个式子表示梯度上升法（加号），不断更新，使得第一个式子的V越大越好。（图中好像写错了…

discriminator网络和generator网络会反复的执行。

3. Unsupervised Conditional GAN

Transform an object from one domain to another without paired data（e.g. style transfer）

• 方法一：直接Transformation（转换差距较小）
• 方法二：Projection to Common Space（转换差距较大）

方法一：Direct Transformation：

这种做法很有可能Generator会忽略输入，输出一些与输入无关的，为了能骗过Discriminator。

Cycle GAN：

同时去训练两个generator和两个discriminator。

类似的Disco GAN、Dual GAN等根Cycle GAN其实都是一样的思路。方法二：Projection to Common Space：

因为是unsuperviced，所以两条网络要分开训练，相当于训练两个Vae GAN。

这种产生的问题是：The images with the same attribute may not project to the same position in the latent space. 就是说他们两个训练出来的输出可能风马牛不相及。于是就产生了很多来解决这个问题的东西，比如说如下图所示的Couple GAN、UNIT：

Sharing the parameters of encoders and decoders. 即Encoder的最后几个layer的参数共享，Decoder的前几个layer的参数共享。还有个方法如下：

即让Domain Discriminator去判断vector是来自X Domain还是Y Domain。

The domain discriminator forces the output of encoderX and encoderY have the same distribution.

还可以cycle起来嘞：

跟cycle GAN差不多，用在了Combo GAN里面。