一种基于潜特征扰动的深度神经网络证据条件推断新方法
计算机视觉与模式识别
2019-12-09 v6
摘要
可利用证据条件推断范式在机器学习模型中利用辅助信息。深度神经网络（DNN）中的多模态技术可视为扰动潜特征表示以融合来自辅助模态的证据。然而，它们需要训练一个专门的网络，将稀疏证据映射到高维潜空间向量。设计这样的网络以及收集用于训练的联合标注数据均非平凡任务。本文中，我们提出了一种基于多任务学习（MTL）的新框架，在 DNN 中执行证据条件推断，可克服这两方面缺陷。我们的框架将证据作为次要任务的输出，同时将原始问题建模为关注的主要任务。在推断时，我们采用一种新颖的贝叶斯公式来改变联合潜特征表示，以最大化观测证据的似然。由于我们的方法将证据建模为来自 DNN 的预测，这通常可使用针对流行任务的标准预训练骨干网络实现，完全消除了训练需求。即便需要训练，我们的 MTL 架构也确保无需任何联合标注数据即可完成。利用我们的框架使用证据，我们在给定图像标签预测语义分割上比最先进水平提升 3.9%，在给定图像描述预测实例分割上提升 2.8%。
引用
@article{arxiv.1811.09796,
title = {A Novel Technique for Evidence based Conditional Inference in Deep Neural Networks via Latent Feature Perturbation},
author = {Dinesh Khandelwal and Suyash Agrawal and Parag Singla and Chetan Arora},
journal= {arXiv preprint arXiv:1811.09796},
year = {2019}
}