泛化能力与反事实可解释性的权衡

Fabiano Veglianti; Flavio Giorgi; Fabrizio Silvestri; Gabriele Tolomei

泛化能力与反事实可解释性的权衡

机器学习 2025-05-30 v1

作者: Fabiano Veglianti , Flavio Giorgi , Fabrizio Silvestri , Gabriele Tolomei

摘要

在本工作中，我们研究了监督学习中模型泛化与反事实可解释性之间的关系。我们引入了 $\varepsilon$ -有效反事实概率（ $\varepsilon$ -VCP）的概念——即在数据点的 $\varepsilon$ -邻域内找到导致标签改变的扰动的概率。我们提供了 $\varepsilon$ -VCP 关于模型决策边界几何性质的理论分析，表明 $\varepsilon$ -VCP 随模型过拟合而趋于增加。我们的发现建立了泛化能力差与反事实生成容易程度之间的严格联系，揭示了泛化与反事实可解释性之间固有的权衡。实证结果验证了我们的理论，表明 $\varepsilon$ -VCP 可作为定量表征过拟合的实用代理。

关键词

模型泛化反事实可解释性过拟合决策边界监督学习

引用

@article{arxiv.2505.23225,
  title  = {Generalizability vs. Counterfactual Explainability Trade-Off},
  author = {Fabiano Veglianti and Flavio Giorgi and Fabrizio Silvestri and Gabriele Tolomei},
  journal= {arXiv preprint arXiv:2505.23225},
  year   = {2025}
}

备注

9 pages, 4 figures, plus appendix. arXiv admin note: text overlap with arXiv:2502.09193

泛化能力与反事实可解释性的权衡

摘要

关键词

引用

备注

相关论文