InfoGAN 论文阅读笔记 基本知识总结

article/2025/4/20 7:29:52

最近的一些工作是在使用InfoGAN,查看了一些资料,发现相关的资料并不是很多,所以,写了这个博客,一方面希望对最近两个周看到的文献进行一个归纳总结,另一方面希望遇到在做这方面的工作的大佬们,请教学习,不足之处请指正,谢谢大家~。

一、什么是InfoGAN

InfoGAN是一种常见的GAN 的变种,是由InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets这篇论文中提出,论文的地址为:https://arxiv.org/pdf/1606.03657.pdf,在众多GANs中,最突出的特点就是在于,它增加了互信息的判断的部分,在进行进行生成器生成的假的图片等结果是否是真实的时候,需要进行计算互信息的值的大小,我们在进行计算的时候,期望互信息的值越大越好,这样就说明在生成器生成的fake data 越来越真实,判别器在进行判别的时候,会更大概率的将其判别为real data ,而对于最终达到的效果,也是非常棒的,我们在输出的部分,是可以按照类别进行输出的,例如对于手写体数字的数据集来说,我们可以只输出我们想要的那一种类别,而在进行控制这个类别的时候,是由参数c决定的,c可以使长短、粗细、以及哪个数字等。

论文的abstract部分也做出了相应的说明,具体如下:


二、InfoGAN的网络结构和基本的参数

(一)网络结构,在githu上找到了一个大牛画的各种GAN的网络结构图,如下,地址是https://github.com/hwalsuklee/tensorflow-generative-model-collections,很详细,供大家进行参考。


在论文中,我们会发现,和传统的GAN是一样的,InfoGAN也是由生成器和判别器两部分组成,但是,在对生成器进行输入的部分做了一定的改变,由原来的只输入噪声Z,改变为输入噪声Z和label c。在判别器输出的部分,也做出了一定的调整,会输出类别C',与此同时,会有一个简单的Q网络输出(如上图所示),对于Q网络来说,其实,Q网络和D网络共享同一个网络,只是在最后一层作出了改变,其他部分都是一样的。

论文中是具体介绍如下:


三、什么是互信息,以及互信息的左右是什么

首先来说一下互信息的定义,在这里参考了百度百科的介绍,定义如下:

互信息(Mutual Information)是信息论里一种有用的信息度量,它可以看成是一个随机变量中包含的关于另一个随机变量的信息量,或者说是一个随机变量由于已知另一个随机变量而减少的不肯定性。

在这里附上百度百科的地址,https://baike.baidu.com/item/%E4%BA%92%E4%BF%A1%E6%81%AF/7423853?fr=aladdin,这部分的知识讲述的蛮详细的。

具体的互信息的其他知识以及在InfoGAN中的应用,下次有时间再更新。



http://chatgpt.dhexx.cn/article/qkZCDegm.shtml

相关文章

机器学习-40-GAN-07-Feature Extraction(InfoGAN,VAE-GAN,BiGAN,Feature Disentangle(Voice Conversion))

文章目录 Feature ExtractionInfoGAN问题引出What is InfoGAN?结果 VAE-GANVAE-GANAlgorithm BiGANBiGANAlgorithmBiGAN架构设计解析 Triple GANDomain-adversarial trainingVoice Conversion(声音转换)Feature Disentangle(特征解耦) Feature Extraction 本节主要介绍InfoGA…

无监督式GAN(infoGAN) matlab实战

一、infoGAN原理简介 普通的GAN存在无约束、不可控、噪声信号z很难解释等问题。InfoGAN 主要特点是对GAN进行了一些改动,成功地让网络学到了可解释的特征,网络训练完成之后,我们可以通过设定输入生成器的隐含编码来控制生成数据的特征。InfoG…

InfoGAN论文理解及复现

InfoGAN论文理解及复现 by AHU Random_Walker 主要从四个方面来了解相关工作,即 MotivationRelated Work-MethodExperimentsConclusion 然后有三个过程来复现代码,最后的疑问算是对整个框架和代码细节问题的汇总吧 框架代码实现与结果总结与疑问 参…

[生成对抗网络GAN入门指南](10)InfoGAN: Interpretable Representation Learning by Information Maximizing GAN

本篇blog的内容基于原始论文InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets(NPIs2016)和《生成对抗网络入门指南》第六章。完整代码及简析见文章末尾 一、为什么要使用InfoGAN InfoGAN采用无监…

登堂入室__生成对抗网络的信息论扩展(infoGAN)(五)

简介 InfoGAN是生成对抗网络信息理论的扩展,能够以完全非监督的方式得到可分解的特征表示。它可以最大化隐含(latent)变量子集与观测值之间的互信息(mutual information),并且发现了有效优化互信息目标的下界。 原论文地址:https://arxiv.org…

对抗生成网络学习(五)——infoGAN生成宽窄不一,高低各异的服装影像(tensorflow实现)

一、背景 前一阶段比较忙,很久没有继续做GAN的实验了。近期终于抽空做完了infoGAN,个人认为infoGAN是对GAN的更进一步改进,由于GAN是输入的随机生成噪声,所以生成的图像也是随机的,而infoGAN想要生成的是指定特征的图…

GAN生成对抗网络合集(三):InfoGAN和ACGAN-指定类别生成模拟样本的GAN(附代码)

1 InfoGAN-带有隐含信息的GAN InfoGAN是一种把信息论与GAN相融合的神经网络,能够使网络具有信息解读功能。 GAN的生成器在构建样本时使用了任意的噪声向量x’,并从低维的噪声数据x’中还原出来高维的样本数据。这说明数据x’中含有具有与样本相同…

InfoGAN 翻译

InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets翻译 摘要 本文描述了InfoGAN,它是生成对抗网络的信息论扩展,能够以完全无监督的方式学习分解表征。 InfoGAN是一种生成对抗网络,它…

【论文阅读】InfoGAN: Interpretable Representation Learning by Information Maximizing GAN

论文下载 bib: inproceedings{chenduan2016infogan,author {Xi Chen and Yan Duan and Rein Houthooft and John Schulman and Ilya Sutskever and Pieter Abbeel},title {InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Advers…

深度学习-李宏毅GAN学习之InfoGAN,VAE-GAN,BiGAN

深度学习-李宏毅GAN学习之InfoGAN,VAE-GAN,BiGAN 提出问题InfoGANVAE-GANBiGAN总结 提出问题 我们知道最基本的GAN就是输入一个随机的向量,输出一个图片。以手写数字为例,我们希望修改随机向量的某一维,能改变数字的特…

GAN及其变体C_GAN,infoGAN,AC_GAN,DC_GAN(一)

当时害怕篇幅过大,拆分两部分编写,下一篇文章见:GAN及其变体DCGAN, CGAN,infoGAN,BiGAN,ACGAN,WGAN,DualGAN(二) 在介绍GAN之前,我们先了解一些什么是生成模型(Generative Model)和判别模型(Di…

深度学习《InfoGAN模型》

一:网络介绍 普通的GAN网络的特点是无约束,对网络输入的噪声也不好解释,CGAN中我们通过给噪声合并一些类别数据,改变了输出形式,可以训练出我们指定类别的数据,这一点也是某种程度的解释,但是解…

InfoGAN原理PyTorch实现Debug记录

1. CGAN从无监督GAN改进成有监督的GAN GAN的基本原理输入是随机噪声,无法控制输出和输入之间的对应关系,也无法控制输出的模式,CGAN全称是条件GAN(Conditional GAN)改进基本的GAN解决了这个问题,CGAN和基本…

CGAN和InfoGAN理解

在一些比较经典的GAN模型中(像WGAN、LSGAN、DCGAN等等),往往都是从样本空间里随机采样得到输入噪声,生成的图像究竟属于哪一个类别也是随机的。通过这些模型,我们无法生成指定类别的数据。 举个不恰当的例子&#xff…

InfoGAN

InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets Xi Chen, Yan Duan, Rein Houthooft, John Schulman, Ilya Sutskever, Pieter Abbeel https://arxiv.org/abs/1606.03657 一、从GAN到InfoGAN 1.GAN存在的问题 GAN通…

InfoGAN 生成时序序列

InfoGAN 生成时序序列 简介 完整代码:https://github.com/SongDark/timeseries_infogan 本文介绍用InfoGAN生成多维时序序列。 数据 数据集下载地址 NameClassDimensionTrain SizeTest SizeTruncatedCharacterTrajectories20314221436182 样本介绍 CharacterTr…

InfoGAN详解与实现(采用tensorflow2.x实现)

InfoGAN详解与实现(采用tensorflow2.x实现) InfoGAN原理InfoGAN实现导入必要库生成器鉴别器模型构建模型训练效果展示 InfoGAN原理 最初的GAN能够产生有意义的输出,但是缺点是它的属性无法控制。例如,无法明确向生成器提出生成女…

InfoGAN论文笔记+源码解析

论文地址:InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets 源码地址:InfoGAN in TensorFlow GAN,Generative Adversarial Network是目前非常火也是非常有潜力的一个发展方向&#…

InfoGAN(基于信息最大化生成对抗网的可解释表征学习)

前言: 这篇博客为阅读论文后的总结与感受,方便日后翻阅、查缺补漏,侵删! 论文: InfoGAN: Interpretable Representation Learning by Information Maximizing Generative Adversarial Nets 解决的问题: In…