中文

利用混杂因素的知识启发深度神经网络

计算机视觉与模式识别 2016-07-11 v1

摘要

深度学习技术已证明其在建模一些最具挑战性的高复杂度现实问题方面具有显著能力。尽管深度模型很受欢迎,我们仍需努力更好地理解驱动其成功的潜在机制。观察到训练好的深度网络中的神经元会预测与训练任务间接相关的属性,受此启发,我们认识到深度网络学习到的表示比当前任务所需的更为泛化,以解开支配数据的多个混杂因素的影响,从而分离相关因素的作用并优化给定目标。因此,我们提出了一个通用框架,利用辅助解释数据变量的信息来增强深度模型的训练,旨在促进这种解耦,训练出能更准确理解数据交互和分布的深度网络,从而提高其泛化能力。我们将数据群体中显著的辅助解释因素的信息作为次要目标/损失块整合到现有架构中,这些块在训练期间从隐藏层获取输入。一旦训练完成,这些次要回路即可被移除,留下一个与原始架构相同的模型,但由于其对数据交互的理解,该模型具有更好的泛化能力和辨别力。由于姿态是目标识别中最主要的混杂因素之一,我们将此原则应用于实例化一个姿态感知的深度卷积神经网络,并证明了在 SAR 目标分类任务的实验中,辅助姿态信息确实提高了分类精度。

关键词

引用

@article{arxiv.1607.02397,
  title  = {Enlightening Deep Neural Networks with Knowledge of Confounding Factors},
  author = {Yu Zhong and Gil Ettinger},
  journal= {arXiv preprint arXiv:1607.02397},
  year   = {2016}
}