对深度网络施加硬约束：前景与局限
计算机视觉与模式识别
2017-06-08 v1
摘要
对深度神经网络的输出施加约束，是提高其预测质量并降低对标注训练数据需求的一种方法。这类约束通常以软约束的形式施加，即在训练过程中最小化的损失函数中加入新的项。另一种替代方案是以硬约束的形式施加，这在理论上具有若干优势，但此前因问题被认为难以处理而未被探索。本文表明，施加硬约束实际上可以以一种计算上可行的方式实现，并能给出合理的结果。然而，理论上的优势并未实现，且所得技术并不优于现有的依赖软约束的方法。我们分析了其中的原因，并希望激励其他研究者提出更好的解决方案。
引用
@article{arxiv.1706.02025,
title = {Imposing Hard Constraints on Deep Networks: Promises and Limitations},
author = {Pablo Márquez-Neila and Mathieu Salzmann and Pascal Fua},
journal= {arXiv preprint arXiv:1706.02025},
year = {2017}
}