任务特定的对抗代价函数
计算机视觉与模式识别
2016-09-29 v1
摘要
用于训练生成模型的代价函数应符合模型的目的。如果模型旨在生成感知正确的样本等任务,则最大化从模型中抽取的样本 Q 与训练数据分布 P 相同的概率是有益的,这等价于最小化 Kullback-Leibler (KL) 散度 KL[Q||P]。然而,如果模型旨在用于检索或分类等任务,则最大化从训练数据中抽取的样本被模型捕获的概率是有益的,这等价于最小化 KL[P||Q]。对抗训练中使用的代价函数优化 Jensen-Shannon 熵,可视为 KL[Q||P] 和 KL[P||Q] 之间的均匀插值。在此,我们提出一种替代的对抗代价函数,可轻松针对任一任务调整模型。我们在手写字符数据集上通过以下任务评估了我们的任务特定代价函数:生成、检索和单样本学习。
引用
@article{arxiv.1609.08661,
title = {Task Specific Adversarial Cost Function},
author = {Antonia Creswell and Anil A. Bharath},
journal= {arXiv preprint arXiv:1609.08661},
year = {2016}
}
备注
Submitted to TPAMI