基于 Frank-Wolfe 的可解释神经网络：稀疏相关图与相关排序
机器学习
2022-02-01 v2 最优化与控制
摘要
我们研究了约束优化公式与 Frank-Wolfe 算法对于获得可解释神经网络预测的影响。将用于相关性归因的率失真解释（RDE）方法重新表述为约束优化问题，可精确控制相关图的稀疏性。这实现了一种新颖的多率 RDE 变体以及相关性排序 RDE 变体，二者在公认的对比测试中经验性地优于标准 RDE 及其他基线方法。我们展示了 Frank-Wolfe 算法的若干确定性与随机性变体及其在 RDE 中的有效性。
引用
@article{arxiv.2110.08105,
title = {Interpretable Neural Networks with Frank-Wolfe: Sparse Relevance Maps and Relevance Orderings},
author = {Jan Macdonald and Mathieu Besançon and Sebastian Pokutta},
journal= {arXiv preprint arXiv:2110.08105},
year = {2022}
}
备注
18 pages, 23 figures, 1 table