TC-VAE:揭示分布外数据生成因子
机器学习
2023-04-12 v2 人工智能
信息论
math.IT
摘要
揭示数据生成因子是解耦学习的终极目标。尽管许多工作提出了能够揭示数据集底层生成因子的解耦生成模型,但迄今为止无人能揭示 OOD 生成因子(即数据集中未显式展现的变化因子)。此外,用于验证这些模型的数据集是使用一些预定义生成因子的平衡混合合成的,隐含假设生成因子在数据集上均匀分布。然而,真实数据集不具备此性质。在本工作中,我们分析了使用生成因子不平衡的数据集的影响,为广泛使用的生成模型提供了定性与定量结果。此外,我们提出 TC-VAE,一种利用所学潜表示与输入数据之间联合总相关下界优化的生成模型。我们表明,所提模型能够在不同数据集上揭示 OOD 生成因子,并在下游解耦指标上平均优于相关基线。
引用
@article{arxiv.2304.04103,
title = {TC-VAE: Uncovering Out-of-Distribution Data Generative Factors},
author = {Cristian Meo and Anirudh Goyal and Justin Dauwels},
journal= {arXiv preprint arXiv:2304.04103},
year = {2023}
}
备注
The paper is incomplete as it is. We will work on it and repost it