中文

BEE:基于基线探索-开发的度量适应解释方法

机器学习 2024-12-24 v1 人工智能 计算机视觉与模式识别

摘要

解释性研究的两个主要挑战包括:1)对解释的细粒度评估,以及2)通过基线表示建模缺失信息。现有文献引入了多样化的评估指标,每个指标都通过不同的视角审查解释的质量。此外,还提出了各种基线表示,每个表示都以不同的方式建模缺失性。然而,关于最终评估指标和基线表示的共识仍然尚未形成。本工作承认解释指标和基线的多样性,展示了不同指标对不同于不同基线表示和分布所产生的解释图的偏好。为解决指标的多样性并统一 accommodate 各种基线表示,我们提出了基线探索-开发(Baseline Exploration-Exploitation, BEE)——一种路径积分方法,通过将基线建模为学习随机张量来引入随机性。该张量遵循所学习的基线分布混合物,通过上下文探索-开发程序进行优化,以提高对特定感兴趣指标的性能。通过对基线从学习分布中重新抽样,BEE生成一组完整的解释图,从而便于在广泛的解释图集合中为给定指标选择表现最佳的解释图。广泛的评估显示,BEE在各种目标评估指标上均优于最先进的解释方法。

关键词

引用

@article{arxiv.2412.17512,
  title  = {BEE: Metric-Adapted Explanations via Baseline Exploration-Exploitation},
  author = {Oren Barkan and Yehonatan Elisha and Jonathan Weill and Noam Koenigstein},
  journal= {arXiv preprint arXiv:2412.17512},
  year   = {2024}
}

备注

AAAI 2025