用于因果自解释的 D-分离
人工智能
2023-11-01 v2 计算与语言
摘要
合理化（Rationalization）是一种用于 NLP 模型的自我解释框架。传统工作通常使用最大互信息（MMI）准则来寻找最能指示目标标签的理由。然而，该准则可能受到与因果理由或目标标签相关的虚假特征的影响。我们未试图修正 MMI 准则的问题，而是提出一种揭示因果理由的新准则，称为最小条件依赖（MCD）准则，其基于我们的发现：非因果特征与目标标签被因果理由所\emph{d-分离}。通过最小化在给定所选理由候选条件下输入未选部分与目标标签之间的依赖，迫使标签的所有原因均被选中。在本研究中，我们采用一种简单而实用的依赖度量，具体为 KL 散度，以验证所提 MCD 准则。经验上，我们证明与先前基于 MMI 的最先进方法相比，MCD 将 F1 分数提高了至多 。我们的代码可在：\url{https://github.com/jugechengzi/Rationalization-MCD} 获取。
引用
@article{arxiv.2309.13391,
title = {D-Separation for Causal Self-Explanation},
author = {Wei Liu and Jun Wang and Haozhao Wang and Ruixuan Li and Zhiying Deng and YuanKai Zhang and Yang Qiu},
journal= {arXiv preprint arXiv:2309.13391},
year = {2023}
}
备注
NeurIPS 2023