深度学习中高阶损失近似与特征组对可解释性影响的探究
机器学习
2019-06-03 v2 机器学习
摘要
当前通过生成显著图来解释深度学习模型的方法普遍依赖两个关键假设。首先，它们使用损失函数的一阶近似而忽略如损失曲率等高阶项。其次，它们孤立地评估每个特征的重要性，忽略其相互依赖关系。本工作中，我们研究放宽这两项假设的影响。首先，通过刻画深度 ReLU 网络的 Hessian 矩阵的闭式公式，我们证明：对于一个具有大量类别的分类问题，若某输入具有高分置信度分类分数，则包含 Hessian 项对最终解影响甚微。我们通过证明此时 Hessian 矩阵近似为秩一且其主特征向量几乎平行于损失函数梯度来证明该结果。我们在 ImageNet 样本上的实证实验与我们的理论一致。该结果亦可能对对抗样本等其他相关问题有所启示。其次，我们通过引入稀疏正则化项来计算深度学习解释中特征组的重要性。我们使用 松弛技术结合近端梯度下降以高效计算组特征重要性分数。我们的实证结果表明，考虑组特征可显著改善深度学习解释。
引用
@article{arxiv.1902.00407,
title = {Understanding Impacts of High-Order Loss Approximations and Features in Deep Learning Interpretation},
author = {Sahil Singla and Eric Wallace and Shi Feng and Soheil Feizi},
journal= {arXiv preprint arXiv:1902.00407},
year = {2019}
}
备注
Proceedings of the 36th International Conference on Machine Learning, 2019