用于VAEs的LORACs先验：让树为数据发声
机器学习
2018-10-17 v1 机器学习
摘要
在变分自编码器中，潜变量编码 上的先验常被视为事后考虑，但先验塑造了模型学习到的潜表示类型。如果目标是学习可解释且有用的表示，那么先验应反映描述数据的高层因子变化的方式。"默认"先验是各向同性正态分布，但如果数据集中自然的变化因子表现出离散结构或并非独立，那么各向同性正态先验实际上会鼓励学习掩盖此结构的表示。为缓解该问题，我们提出使用基于时间边缘化合并过程（TMC）的灵活贝叶斯非参数层次聚类先验。为将学习扩展到大型数据集，我们开发了新的诱导点近似与推断算法。随后我们在无监督情况下将该方法应用于多个数据集，并检验推断出的层次结构及学习到的潜空间的可解释性与实际性能。
引用
@article{arxiv.1810.06891,
title = {The LORACs prior for VAEs: Letting the Trees Speak for the Data},
author = {Sharad Vikram and Matthew D. Hoffman and Matthew J. Johnson},
journal= {arXiv preprint arXiv:1810.06891},
year = {2018}
}