如何在保持灵活性的同时于深度网络中引入单调性？
机器学习
2019-12-04 v3
摘要
领域知识在提升模型性能与实现可靠现实预测方面至关重要，这导致人们愈发关注用于可解释性的特定模型性质。我们聚焦于引入单调趋势，并提出一种新颖的基于梯度的逐点损失函数，以在深度神经网络中强制部分单调性。近期研究依赖于对模型结构的改动，而我们的方法旨在增强学习过程。这种与模型无关的逐点损失函数作为标准损失的插件，对非负单调梯度进行惩罚。我们证明，与保证单调性的最先进深度点阵网络相比，该逐点损失在AUC与单调性度量上取得了相当（且有时更优）的结果。此外，它能够学习差异化的个体趋势并生成更平滑的条件曲线，这对个性化决策十分重要，同时保持了深度网络的灵活性。
引用
@article{arxiv.1909.10662,
title = {How to Incorporate Monotonicity in Deep Networks While Preserving Flexibility?},
author = {Akhil Gupta and Naman Shukla and Lavanya Marla and Arinbjörn Kolbeinsson and Kartik Yellepeddi},
journal= {arXiv preprint arXiv:1909.10662},
year = {2019}
}
备注
8 pages, 5 figures. NeurIPS 2019 Workshop on Machine Learning with Guarantees