SRGAN With WGAN
RGAN 是基于 GAN 方法进行训练的，有一个生成器和一个判别器，判别器的主体使用 VGG19，生成器是一连串的 Residual block 连接，同时在模型后部也加入了 subpixel 模块，借鉴了 Shi et al 的 Subpixel Network [6] 的思想，让图片在最后面的网络层才增加分辨率，提升分辨率的同时减少计算资源消耗。详细的介绍建议大家还是直接看论文 ，网上也有一些解读的文章，这里就直接介绍实现的一些创新细节。
SRGAN
SRGAN，2017 年 CVPR 中备受瞩目的超分辨率论文，把超分辨率的效果带到了一个新的高度，而 2017 年超分大赛 NTIRE 的冠军 EDSR 也是基于 SRGAN 的变体。
SRGAN 是基于 GAN 方法进行训练的，有一个生成器和一个判别器，判别器的主体使用 VGG19，生成器是一连串的 Residual block 连接，同时在模型后部也加入了 subpixel 模块，借鉴了 Shi et al 的 Subpixel Network [6] 的思想，让图片在最后面的网络层才增加分辨率，提升分辨率的同时减少计算资源消耗。详细的介绍建议大家还是直接看论文 [1]，网上也有一些解读的文章，这里就直接介绍实现的一些创新细节。
GAN存在的问题
传统 GAN 存在一个问题是，你无法知道什么时候该停止训练 Generator，什么时候该停止训练 Discriminator，如果过度训练 Discriminator，Generator 就无法学习下去，反之也会导致模型效果差。
如果能有一个 loss 指标来反映训练情况的话，训练的难度就会大大降低。而 17 年提出的WGAN [3] 正是解决这一问题的重要方法。
WGAN 使用 Wasserstein 距离来描述两个数据集分布之间的差异程度，只要把模型修改成 WGAN 的形式，就能根据一个唯一的 loss 来监控模型训练的程度。有关 WGAN 的解释强烈推荐大家阅读这篇文章：令人拍案叫绝的 Wasserstein GAN [4]，作者用非常直白明了的语言介绍 WGAN。
SRGAN结合WGAN
SRGAN 的一个超赞复现来自 @董豪 之手，他也是 tensorlayer 的作者之一，他的复现项目在 Github 上得到了大量的星星，而笔者的代码就正是在他的基础上进行拓展，首先非常感谢作者的开源。
· 判别器最后一层去掉 sigmoid
· 生成器和判别器的 loss 不取 log
· 每次更新判别器的参数之后把它们的绝对值截断到不超过一个固定常数 c
· 不要用基于动量的优化算法（包括 momentum 和 Adam），推荐 RMSProp，SGD 也行
--来自《令人拍案叫绝的Wasserstein GAN》
根据这篇文章的介绍，对代码进行以上四项修改，把 GAN 的训练方式转换成 WGAN，可以在 tensorboard 中监控 loss 的下降情况。因此，笔者对项目原作的进行了一些修改：
1. 对模型代码进行了上面 WGAN 的改造；
2. 增加了 Tensorboard，监控 loss 下降情况；
3. 对作者的 model.py 中，Generator 的最后一层的卷积 kernel 从 1×1 改成 9×9，这是原论文建议的结构。
SRGAN With Wasserstein GAN 的完整代码已经开源到笔者的 Github [5]，里面有详细的改动介绍和使用说明，觉得好的话就给个 Star 呀！
▲ 修改后的训练Loss下降情况
下面是一些复现后的超分复原效果：
一个来自工业界的问题
在实际生产使用中，遇到的低分辨率图片并不一定都是 PNG 格式的（无损压缩的图片复原效果最好），而且会带有不同程度的失真（有损压缩导致的 artifacts）。笔者尝试过很多算法，例如 SRGAN、EDSR、RAISR、Fast Neural Style 等等，这类图片目前使用任何一种超分算法都没法在提高分辨率的同时消除失真。
这个问题我在 @董豪 SRGAN 项目的 issue 中也讨论过，同时在知乎也提出过这个问题：SRGAN 超分辨率方法对于低清 jpg 格式的图片复原效果是否比不上对低清 png 格式的复原效果？
【转载】:https://www.jiqizhixin.com/articles/2018-05-21-10
https://github.com/TwistedW/tf-GANs-Loss
http://www.twistedwg.com/2018/10/05/GAN_loss_summary.html
https://www.jianshu.com/p/aab68eb0f7ed
https://spaces.ac.cn/archives/4439
