融合域知识与可信度约束的可操作且多样化反事实解释
人工智能
2026-05-26 v3 机器学习
摘要
反事实解释通过识别实现所需结果所需的最小变更来提高机器学习模型的可操作解释性。然而，现有方法常忽视特征之间的依赖关系，可能导致不切实际或不实际的修改。此限制降低了在实际决策支持系统中反事实解释的实用性。针对网络安全中邮件营销的应用场景，我们提出DANCE（Diverse, Actionable, and Knowledge-Constrained Explanations），一种生成融合特征依赖关系和域约束的反事实解释的方法。DANCE使用从数据中学习或由专家指定的线性和概率结构来建模特征之间的关系。这些依赖关系在搜索过程中受到约束，以提高可信度和可行性。该方法在统一目标中联合优化可信度、多样性、接近度和稀疏性。我们在OpenML上的140个数据集上评估DANCE，证明其在多个评估标准下实现了与现有方法的竞争甚至优于现有方法的性能。此外，我们与邮件营销平台合作，在实际工业环境中验证了该方法，表明其产生的反事实解释符合域一致且具有可操作性。
引用
@article{arxiv.2511.20236,
title = {Actionable and diverse counterfactual explanations incorporating domain knowledge and plausibility constraints},
author = {Szymon Bobek and Łukasz Bałec and Grzegorz J. Nalepa},
journal= {arXiv preprint arXiv:2511.20236},
year = {2026}
}