InfoGAN介绍

今天给大家分享的是NIPS2016的InfoGAN。这篇paper所要达到的目标就是通过非监督学习得到可分解的特征表示。使用GAN加上最大化生成的图片和输入编码之间的互信息。最大的好处就是可以不需要监督学习，而且不需要大量额外的计算花销就能得到可解释的特征。

通常，我们学到的特征是混杂在一起的，如上图所示，这些特征在数据空间中以一种复杂的无序的方式进行编码，但是如果这些特征是可分解的，那么这些特征将具有更强的可解释性，我们将更容易的利用这些特征进行编码。所以，我们将如何通过非监督的学习方式获取这些可分解的特征呢？

前人也通过很多监督非监督的方法学习可分解的特征。在这篇paper中，非监督学习通过使用连续的和离散的隐含因子来学习可分解的特征。

在具体介绍本篇paper的方法之前，再给大家介绍一下GAN的概念。总的来说，这个生成模型就是通过两个神经网络互相之间的竞争对抗来进行训练。这两个网络中有一个是生成器，它需要将随机的噪声分布z映射到我们需要得到的真实分布x，另外一个网络就是判别器，从真实数据和生成的数据中间随机采样，判断这个数据是否是真实数据，在这里判别器D相当于一个二分类器。所以，整个优化问题就转换为一个minmax game，D(x)代表x来自真实数据的概率，在训练过程中，最大化D(x)的值，同时，最小化生成器生成数据的能力，从而达到两个网络互相竞争，互相进步，生成器生成数据的能力越来越强，判别器判别数据的能力也越来越强。

如果从表征学习的角度来看GAN模型，会发现，由于在生成器使用噪声z的时候没有加任何的限制，所以在以一种高度混合的方式使用z，z的任何一个维度都没有明显的表示一个特征，所以在数据生成过程中，我们无法得知什么样的噪声z可以用来生成数字1，什么样的噪声z可以用来生成数字3，我们对这些一无所知，这从一点程度上限制了我们对GAN的使用。

基于上面的分析，作者就在生成器中除了原先的噪声z还增加了一个隐含编码c，提出了一个新的GAN模型—InfoGAN，其中Info代表互信息，它表示生成数据x与隐藏编码c之间关联程度的大小，为了使的x与c之间关联密切，所以我们需要最大化互信息的值，据此对原始GAN模型的值函数做了一点修改，相当于加了一个互信息的正则化项。是一个超参，通过之后的实验选择了一个最优值1。

什么是互信息呢？互信息定义为两个熵的差值，H(x)是先验分布的熵，代表一个后验分布的熵，我们可以把互信息看成当观测到y值而造成的x的不确定性的减小。如果x，y是相互独立没有相关性，即互信息的值为0，那么已知y值的情况下推测x与x的原始分布没有区别；如果x，y有相关性，即互信息的值大于0，那么已知y值的情况下，我们就能知道哪些x的值出现的概率更大。

这些都准备好了之后，开始实践，发现遇到困难了，在计算互信息的值时，需要用到后验分布，但是这是一个很难采样和估计的一个值。作者想出通过定义一个辅助分布来协助估计后验分布，在理想情况下达到。加入了辅助分布之后发现，的网络可以与判别器D共享，这样就可以共享权值，而不需要额外的存储和计算开销。

在引入辅助分布之后，通过变分分布最大化来最大化这个互信息的下界，这里是整个推导过程。

下一页，我加了更细节的推导。

使用Q来接近p得到了互信息的变分估计。H(c)中不包含带优化的变量，所以可以视作一个常数。通过对G，Q的优化来最大化L(G,Q)，当时，不等式取等号，从而得到最大化互信息的效果。所以InfoGAN的最优化问题中的互信息正则项替换为L(G,Q)。但是在L(G,Q)中发现，还是有个后验分布。

作者在paper中就引用了一个定理，使用这个定理就可以避免从后验分布中进行采样的过程，转换之后的L值可以简单的通过蒙特卡洛采样进行估计。

下面是定理的证明，对x’积分等于1，改变了积分的形式。

在InfoGAN模型中，GAN的网络结构用的是上次提到的DCGAN。给生成器输入隐含编码c和噪声z，生成假的数据，从假数据和真实数据中随机采样，输入给定D进行判断，是真还是假。Q通过与D共享卷积层，可以减少计算花销。在这里，Q是一个变分分布，在神经网络中直接最大化，Q也可以视作一个判别器，输出类别c。

实验，主要有两个目标，第一个是验证互信息可以被有效的最大化，第二个是验证InfoGAN是否可以学到可分解的可解释的特征。在第一个实验中，使用MNIST数据集，隐含编码c设为包括10个类别的离散编码，均匀分布，并使用GAN中同样加了一个辅助分布Q做对比试验。实验中发现，InfoGAN中L可以很快收敛到H(c)，而GAN中，生成的图片与隐含编码c之间的互信息几乎没有，说明GAN中并没有用到这个隐含编码。

第二个实验来尝试学习数据集中可分解的特征。同样的使用MNIST数据集，在这里使用了三个隐含编码，c1用十个离散数字进行编码，每个类别的概率都是0.1，c2,c3连续编码，是-2到2的均匀分布。通过实验发现，c1可以作为一个分类器，分类的错误率为5%，图片a中第二行将7识别为9，但是不是意味着c1的0-9分别代表着生成数字的0-9，这是为了可视化效果，对数据重新排序的结果。如果在常规的GAN模型中添加c1编码，发现生成的图片与c1没有明显的关联。通过观察发现，c2表示生成数字的旋转的角度，c3表示生成数字的宽度。图c显示，小的c2值表示数字向左偏，大的c2值表示数字向右偏。图d显示，c3的值越大，生成的数字越宽。