条件变分自编码器中多模态潜空间的证据式稀疏化
机器学习
2021-01-19 v3 人工智能
计算机视觉与模式识别
机器人学
摘要
变分自编码器中的离散潜空间已被证明能有效捕捉许多现实世界问题（如自然语言理解、人类意图预测和视觉场景表示）的数据分布。然而，离散潜空间需要足够大以捕捉现实世界数据的复杂性，这使得下游任务在计算上具有挑战性。例如，在环境的高维潜表示中执行运动规划可能是难处理的。我们考虑对已训练的条件变分自编码器离散潜空间进行稀疏化的问题，同时保留其学到的多模态性。作为一种事后潜空间缩减技术，我们利用证据理论识别从特定输入条件获得直接证据的潜类别，并滤除那些没有获得证据的类别。在图像生成和人类行为预测等多种任务上的实验证明了我们所提技术在减小模型离散潜样本空间规模的同时保持其学到的多模态性方面的有效性。
引用
@article{arxiv.2010.09164,
title = {Evidential Sparsification of Multimodal Latent Spaces in Conditional Variational Autoencoders},
author = {Masha Itkina and Boris Ivanovic and Ransalu Senanayake and Mykel J. Kochenderfer and Marco Pavone},
journal= {arXiv preprint arXiv:2010.09164},
year = {2021}
}
备注
21 pages, 15 figures, 34th Conference on Neural Information Processing Systems (NeurIPS 2020)