Scifaro

中文

为积分梯度构建合理的基线

机器学习 2024-12-19 v1 高能物理 - 实验

作者: Jai Bardhan , Cyrin Neeraj , Mihir Rawat , Subhadip Mitra

在 arXiv 上查看 ↗ PDF ↗

摘要

机器学习方法在科学界的应用迅速增长。然而，理解这些“黑箱”模型的努力很少。我们展示了如何通过设计不同的基线来应用积分梯度（IGs）理解这些模型，以粒子物理学中的案例研究为例。我们发现零向量基线不能提供好的特征归因，而从背景事件中采样的平均基线提供了一致更合理的归因。

关键词

积分梯度基线选择特征归因可解释性粒子物理学黑箱模型

引用

@article{arxiv.2412.13864,
  title  = {Constructing sensible baselines for Integrated Gradients},
  author = {Jai Bardhan and Cyrin Neeraj and Mihir Rawat and Subhadip Mitra},
  journal= {arXiv preprint arXiv:2412.13864},
  year   = {2024}
}

备注

7 pages, 5 figures. Accepted to 4th Annual AAAI Workshop on AI to Accelerate Science and Engineering (AI2ASE)