单调神经网络的基数极小解释
机器学习
2023-05-03 v3
摘要
近年来，人们对提供精确形式化保证的神经网络模型预测解释方法兴趣渐增。这些包括溯因（ respectively，对比）方法，旨在计算足以使给定预测成立（respectively，改变给定预测）的极小输入特征子集。然而，相应的决策问题已知是难处理的。在本文中，我们研究是否可通过聚焦于实现单调函数的神经网络模型来恢复可处理性。尽管相关决策问题仍难处理，我们可证明：若额外假设激活函数处处连续且几乎处处可微，则它们可通过贪心算法在多项式时间内求解。我们的实验表明所提算法具有良好性能。
引用
@article{arxiv.2205.09901,
title = {Cardinality-Minimal Explanations for Monotonic Neural Networks},
author = {Ouns El Harzli and Bernardo Cuenca Grau and Ian Horrocks},
journal= {arXiv preprint arXiv:2205.09901},
year = {2023}
}