利用和积网络生成似然反事实
人工智能
2025-06-12 v5 机器学习
最优化与控制
摘要
解释 AI 系统所做决策的需求是由近期的法规和用户需求共同驱动的。这些决策通常只能事后解释。在反事实解释中，人们可能会问什么构成了最佳的反事实解释。显然，必须考虑多个标准，尽管“与样本的距离”是一个关键标准。考虑反事实合理性的近期方法似乎牺牲了这一原始目标。在此，我们提出一个系统，提供同时具备相近性和稀疏性的高似然解释。我们表明，寻找满足反事实解释许多常见期望特性的最似然解释，可以使用混合整数优化 (MIO) 来建模。我们使用和积网络 (SPN) 来估计反事实的似然。为此，我们提出了 SPN 的 MIO 公式，这具有独立的研究价值。包含示例的源代码可在 https://github.com/Epanemu/LiCE 获取。
引用
@article{arxiv.2401.14086,
title = {Generating Likely Counterfactuals Using Sum-Product Networks},
author = {Jiri Nemecek and Tomas Pevny and Jakub Marecek},
journal= {arXiv preprint arXiv:2401.14086},
year = {2025}
}
备注
32 pages total