用于准确计算集成引力的黎曼求和优化
机器学习
2025-01-07 v2 人工智能
最优化与控制
摘要
集成引力（Integrated Gradients, IG）是用于归因深度神经网络输出对其输入特征的一种广泛使用算法。由于深度学习模型 lacks 闭式积分，采用不准确的黎曼求和近似来计算 IG。这常常会引入以高噪声形式出现的不可取错误，导致对模型决策过程产生错误的洞察。我们引入了一套框架 RiemannOpt，通过优化黎曼求和的样本点选择来最小化这些错误。我们的算法高度通用，可用于 IG 以及其衍生算法如 Blur IG 和 Guided IG。RiemannOpt 在插入得分方面可实现最高 20% 的提升。此外，它使用户能够将计算成本降低最高可达四倍，从而在受限环境中具有高度实用性。
引用
@article{arxiv.2410.04118,
title = {Riemann Sum Optimization for Accurate Integrated Gradients Computation},
author = {Swadesh Swain and Shree Singhi},
journal= {arXiv preprint arXiv:2410.04118},
year = {2025}
}
备注
Accepted at Interpretable AI: Past, Present and Future Workshop at NeurIPS 2024