13. 生成式对抗网络

13.1 初始 GANs 的秘密 ****

双人 MiniMax 游戏，理想情况达到纳什均衡点

D 二分类，损失函数 Negative Log-Likelihook，也称 Categorical Cross-entropy Loss
- $\mathcal L(D)=-\frac12 (\mathbb E_{x\sim p_{data}(x)}\log D(x)+\mathbb E_{x\sim p_g(x)}\log(1-D(x)))$
值函数 $\min_G \max_D V(G,D)=\mathbb E_{x\sim p_{data}(x)}\log D(x)+\mathbb E_{x\sim p_g(x)}\log(1-D(x))$
- 优化 G，是在最小化生成样本分布与真实样本分布的 JS 距离
- 优化 G 的过程是让 G 远离前一步的 G'，同时接近分布 $(p_{data}+p_{g'})/2$
- 达到均衡点时， $p_{g'}=p_{data}$

GANs 刻画概率生成模型时，并不对概率密度函数 $p(X)$ 直接建模，而是通过制造样本 $x$ ，间接体现
如果随机变量 Z 和 X 之间满足映射 $X=f(Z)$
- 则它们的概率分布 $p_X(X)$ 和 $p_Z(Z)$ 也存在某种映射关系
- 已知 Z 的分布，对 $f$ 建模，就唯一确定了 X 的分布

优化饱和：早期 G 很差，D 容易识别，使得回传给 G 的梯度小
- 将 $\log(1-D(G(z;\theta_g)))$ 变为 $\log(D(G(z;\theta_g)))$ ，后者最大==前者最小

生成器不稳定，模式坍缩，高维空间大部分多余，真实数据蜷缩在低维子空间的流形上
- $JS(\mathbb P_r||\mathbb P_g)=\frac12(KL(\mathbb P_r||\frac{\mathbb P_r+\mathbb P_g}{2})+KL(\mathbb P_g||\frac{\mathbb P_r+\mathbb P_g}{2}))$ ，是两个 KL 距离的平均
Wasserstein 距离，也称推土机距离 $W(\mathbb P_r||\mathbb P_g)=\inf_{\gamma\sim\prod(\mathbb P_r,\mathbb P_g)}\mathbb E_{(x,y)\sim\gamma}||x-y||$
- G 分布随参数 $\theta$ 变化而连续变化时，Wasserstein 距离也随 $\theta$ 变化而连续变化
- 有效锁定低维子空间中的真实数据分布
WGAN 使用 Wasserstein 距离的对偶式
- $\mathbb E_{x\sim p_{data}(x)}f(x)+\mathbb E_{x\sim p_g(x)}f(x)$ ，判别器变为 评分器（Critic）

CNN 丢失大量信息，难以输出高分辨率图片
生成器 G
- 两点原则
- 保证信息在逐层计算中逐渐增多
- 不损失位置信息，并不断产生更细节的位置信息
- 具体做法
  - 去掉会丢掉位置信息的结构，如 pool
  - 使用分数步进卷积层（Fractional-Strided Convolutions），补0后卷积
  - 去掉最后的全连接层
  - Batchnorm 和 ReLU，只在输出层用 tanh
判别器 D
- 图片分类任务，但注重 细节差异，而不是宏观语义差异
- 抛弃 pool，替换为 step>1 的卷积层
- 不接全连接层，内部使用 LReLU，Batchnorm 层

Adversarially Learned Inference

生成网络和推断网络的融合
- 模拟样本~~真实分布，模拟样本的隐空间表示~~真实分布的隐空间表示
- 生成网络 $G_x(z)$ ：将 隐空间 的随机样本映射到 数据空间
- 推断网络 $G_z(x)$ ：将 数据空间 的训练样本映射到 隐空间
- 判别网络 $D(x,z)$ ：分辨联合样本是来自生成网络还是推断网络

从文档集合中，选出迷惑性强的负样本

生成器 G，生成文字组成的序列，表示句子
- RNN（LSTM、GRU、Attention），每个条件概率选一个词，依次进行
优化目标
- G：生成文字序列，高度地模仿真实句子
- D：区分真实句子 vs. 生成句子
- 生成器优化目标 $J(\theta)=\sum_{y_1\in \mathcal Y}G_\theta(y_1|s_0)Q^{\theta}(s_0,y_1)$

Last updated 3 years ago