中文

用于无监督表示学习的对抗 Fisher 向量

机器学习 2019-10-30 v1 机器学习

摘要

我们通过深度基于能量的模型(EBM)的视角审视生成对抗网络(GAN),旨在利用该表述所衍生的密度模型。与判别器在收敛时学习到常值函数的传统观点不同,此处我们表明它可为下游任务提供有用信息,例如用于分类的特征提取。具体而言,在 EBM 表述中,判别器学习一个刻画数据流形的非归一化密度函数(即负能量项)。我们提出通过从 EBM 推导相应的 Fisher 得分与 Fisher 信息来评价生成器与判别器。我们表明,通过假设生成样本构成所学密度的估计,Fisher 信息与归一化 Fisher 向量均易于计算。我们还表明能够推导出样本之间及样本集之间的距离度量。我们开展的实验显示,GAN 诱导的 Fisher 向量作为无监督特征提取器在分类与感知相似性任务上表现出有竞争力的性能。代码见 \url{https://github.com/apple/ml-afv}。

关键词

引用

@article{arxiv.1910.13101,
  title  = {Adversarial Fisher Vectors for Unsupervised Representation Learning},
  author = {Shuangfei Zhai and Walter Talbott and Carlos Guestrin and Joshua M. Susskind},
  journal= {arXiv preprint arXiv:1910.13101},
  year   = {2019}
}

备注

Accepted as spotlight presentation to NeurIPS 2019