代码之家 › 专栏 › 技术社区 › GPrathap

GaN中生成生成模型初始随机向量的正确方法?

generative-adversarial-network deep-learning neural-network

-1

GPrathap · 技术社区 · 7 年前

通常,线性插值与具有单位方差和零平均值的高斯或均匀先验函数一起使用,其中矢量的大小可以以任意方式定义,例如100,以生成生成对抗神经(g an)中生成模型的初始随机矢量。

假设我们有1000个图像用于培训,批量大小为64。然后每个历元,需要生成若干随机向量,利用先验分布对应于每个图像给出的小批量。但我看到的问题是,由于随机向量和对应的图像之间没有映射,所以可以使用多个初始随机向量生成相同的图像。在 this paper 提出了在一定程度上利用不同的球面插值来克服这一问题。

那么,如果最初生成与训练图像数量相对应的随机向量,并且训练时模型使用最初生成的相同随机向量,会发生什么?

1 回复 | 直到 7 年前

1

Thomas Pinetz 7 年前

在gans中,用作输入的随机种子实际上并不对应于任何实际输入图像。Gans实际上所做的是学习从已知噪声分布(例如高斯)到复杂未知分布的转换函数,该函数由I.I.D.样本(例如训练集)表示。GAN中的鉴别器所做的是计算生成数据(如转换高斯)与实际数据(训练数据)之间的差异(如Wasserstein差异、KL差异等)。这是以随机方式完成的,因此真实数据和虚假数据之间不需要任何联系。如果您想在实际操作的例子中了解更多,我建议您训练一个Wasserstein-Gan,将一个一维高斯分布转换为另一个。在那里你可以看到鉴别器和鉴别器的梯度,并真正看到这样一个系统的动态。

不管怎样,你的论文试图告诉你的是,在你训练了你的gan之后,你想看看它是如何将产生的数据从已知的噪声空间映射到未知的图像空间的。出于这个原因,我们发明了类似于您引用的球形插值方案。他们还表明,甘已经学会将潜在空间的某些部分映射到图像中的关键特征,比如微笑。但这与甘斯的训练无关。