面向神经网络的样本特定输出约束
计算机视觉与模式识别
2024-09-05 v1
摘要
神经网络在各种学习任务中达到最先进的性能。然而，对决策过程缺乏理解使其呈现为黑箱。我们对此加以解决，并提出 ConstraintNet，一种能够通过额外输入在每次前向传播中约束输出空间的神经网络。ConstraintNet 的预测被证明位于指定域内。这使得 ConstraintNet 能够显式排除非预期甚至危险的输出，而最终预测仍从数据中学习。我们关注以凸多面体形式给出的约束，并展示向进一步约束类的推广。ConstraintNet 可通过修改现有神经网络架构轻松构建。我们强调 ConstraintNet 是端到端可训练的，且在前向与反向传播中无额外开销。为说明目的，我们通过修改 CNN 构建 ConstraintNet 并为面部关键点预测任务构造约束。此外，我们展示了其作为安全关键应用面向车辆跟驰对象控制器的应用。我们已基于 ConstraintNet 的实体安全关键输出生成方法与系统向德国专利商标局提交申请，官方注册号为 DE10 2019 119 739。
引用
@article{arxiv.2003.10258,
title = {Sample-Specific Output Constraints for Neural Networks},
author = {Mathis Brosowsky and Olaf Dünkel and Daniel Slieter and Marius Zöllner},
journal= {arXiv preprint arXiv:2003.10258},
year = {2024}
}