导航结构化反事实空间:通过结构化扩散生成反事实
机器学习
2023-12-22 v1 人工智能
摘要
生成反事实解释是揭示黑盒神经网络模型内部运作机制并建立用户信任的最有效方法之一。尽管扩散模型在视觉等领域的生成建模方面取得了显著进展,但其在结构化模态中生成反事实解释的效用尚未得到探索。在本文中,我们介绍了结构化反事实扩散器 (Structured Counterfactual Diffuser, SCD),这是首个利用扩散技术生成结构化数据反事实解释的即插即用框架。SCD 通过扩散模型学习底层数据分布,然后在测试时引导该模型为任意黑盒模型、输入和期望预测生成反事实。我们的实验表明,与现有的最先进方法相比,我们的反事实不仅表现出更高的合理性,还显示出显著更好的邻近性和多样性。
引用
@article{arxiv.2312.13616,
title = {Navigating the Structured What-If Spaces: Counterfactual Generation via Structured Diffusion},
author = {Nishtha Madaan and Srikanta Bedathur},
journal= {arXiv preprint arXiv:2312.13616},
year = {2023}
}
备注
13 pages