无自编码的无监督解耦：陷阱与未来方向
计算机视觉与模式识别
2021-08-17 v1 机器学习
摘要
解耦视觉表示主要在变分自编码器（VAEs）等生成模型中被研究。虽然先前工作聚焦于用于解耦表示学习的生成方法，但由于生成模型当前的局限性，这些方法无法扩展到大型数据集。相反，我们探索基于对比学习的正则化方法，其可能产生足以用于大规模数据集和下游应用的强大解耦表示。然而，我们发现无监督解耦由于优化和初始化敏感性而难以实现，且在任务性能上存在权衡。我们通过下游任务评估解耦，分析所用每种正则化的优缺点，并讨论未来方向。
引用
@article{arxiv.2108.06613,
title = {Unsupervised Disentanglement without Autoencoding: Pitfalls and Future Directions},
author = {Andrea Burns and Aaron Sarna and Dilip Krishnan and Aaron Maschinot},
journal= {arXiv preprint arXiv:2108.06613},
year = {2021}
}
备注
Accepted at the ICML 2021 Self-Supervised Learning for Reasoning and Perception Workshop