基于跨域潜在同源性的终身解耦表示学习
机器学习
2018-08-21 v1 机器学习
摘要
现实世界中的智能行为需要能够从持续的经历序列中获取新知识,同时保留并复用过往知识。我们提出了一种从无分段平稳视觉数据中学习无监督表示的新算法:带共享嵌入的变分自编码器(VASE)。基于最小描述长度原理,VASE 自动检测数据分布的变化,将多余的表示容量分配给新知识,同时保护先前学到的表示免受灾难性遗忘。我们的方法鼓励所学表示具有解耦特性,这带来若干理想性质:VASE 能合理处理模糊输入,可通过基于想象的探索增强自身表示,且最重要的是,它在不同数据集之间展现出语义上有意义的潜在变量共享。与具有纠缠表示的基线相比,我们的方法能够超越表层统计进行推理,并执行语义上有意义的跨域推断。
引用
@article{arxiv.1808.06508,
title = {Life-Long Disentangled Representation Learning with Cross-Domain Latent Homologies},
author = {Alessandro Achille and Tom Eccles and Loic Matthey and Christopher P. Burgess and Nick Watters and Alexander Lerchner and Irina Higgins},
journal= {arXiv preprint arXiv:1808.06508},
year = {2018}
}