MoreauGrad：基于Moreau包络的神经网络稀疏鲁棒解释方法
计算机视觉与模式识别
2023-02-13 v1 人工智能
机器学习
机器学习
摘要
解释深度神经网络的预测一直是计算机视觉文献中的热门话题。尽管已有若干基于梯度的解释方案被提出以揭示神经网络预测中的 influential 变量，但标准基于梯度的解释框架普遍缺乏对输入扰动的鲁棒性，且难以灵活融入稀疏与组稀疏结构的先验知识。本工作中，我们提出MoreauGrad作为一种基于分类神经网络Moreau包络的解释方案。我们证明MoreauGrad可对多层神经网络给出平滑且鲁棒的解释，并可通过一阶优化方法高效计算。此外，我们展示MoreauGrad可自然结合范数正则化技术，输出稀疏或组稀疏解释，这些先验条件适用于广泛的深度学习应用。我们在标准计算机视觉数据集上对所提MoreauGrad方案进行了实证评估，展示了相较于标准基于梯度的解释方法，MoreauGrad方法在定性与定量上的成功。
引用
@article{arxiv.2302.05294,
title = {MoreauGrad: Sparse and Robust Interpretation of Neural Networks via Moreau Envelope},
author = {Jingwei Zhang and Farzan Farnia},
journal= {arXiv preprint arXiv:2302.05294},
year = {2023}
}