生成建模中的基于知识正则化
机器学习
2020-12-14 v2 机器学习
摘要
先验领域知识可极大助力生成模型的学习。然而，将先验知识硬编码为特定模型架构往往代价过高，因此我们常不得不使用通用模型。本文提出一种将特征关系的先验知识融入通用生成模型学习的方法。为此，我们构造了一个正则化项，使生成模型的边缘分布遵循规定的特征相对依赖关系。该正则化项可纳入许多生成模型的现成学习方法中，包括变分自编码器和生成对抗网络 (GAN)，因为其梯度可利用标准反向传播技术计算。我们在多种类型数据集和生成模型上的实验展示了所提方法的有效性。
引用
@article{arxiv.1902.02068,
title = {Knowledge-Based Regularization in Generative Modeling},
author = {Naoya Takeishi and Yoshinobu Kawahara},
journal= {arXiv preprint arXiv:1902.02068},
year = {2020}
}
备注
12 pages, 7 figures, 9 tables, presented in IJCAI 2020