集成因果性、稀疏性与密度性的可行反事实探索框架
机器学习
2024-04-23 v1 人工智能
摘要
解释机器学习模型输出的反事实（CF）解释——通过对输入进行小幅扰动——在研究社区中受到广泛关注。尽管各种CF示例的种类很重要，但它们在整体上是否同时可行并不一定适用。本工作利用不同基准数据集，检验在保持属性逻辑因果关系的前提下，经过对原始输入进行少量更改后，是否可以生成可行且对最终用户在实际案例中实际有用的CF示例。为实现这一目标，我们使用分类器作为黑盒模型，以区分 desired 类与输入类，并使用变分自编码器（VAE）生成可行的CF示例。作为扩展，我们还提取了两个维度的流形（每个数据集一个），这些流形定位了大多数可行示例，充分区分了可行与不可行的示例。对于我们的实验，我们使用了三个常用数据集，并成功生成满足所有预定义因果约束的稀疏、可行CF示例，通过确认这些约束在数据集属性中的重要性。
引用
@article{arxiv.2404.13476,
title = {A Framework for Feasible Counterfactual Exploration incorporating Causality, Sparsity and Density},
author = {Kleopatra Markou and Dimitrios Tomaras and Vana Kalogeraki and Dimitrios Gunopulos},
journal= {arXiv preprint arXiv:2404.13476},
year = {2024}
}
备注
10 pages