宁要护士不要医师——对比解释法的实证研究
计算与语言
2023-10-19 v1
摘要
对比解释将一个决策相对于另一个决策进行解释，被认为比非对比解释(不必然参照替代方案来解释决策)更接近人类解释决策的方式。这一主张从未得到实证验证。我们分析了四个英文文本分类数据集(SST2、DynaSent、BIOS和DBpedia-Animals)。我们对三种不同模型(RoBERTa、GPT-2和T5)进行微调并提取解释，每种模型均有三种不同规模，并应用三种事后可解释性方法(LRP、GradientxInput、GradNorm)。此外，我们收集并发布了BIOS数据集中100个样本子集在人类对比与非对比设定下的理性标注。模型理性与人类标注在对比与非对比设定下的交叉比较显示，两种设定对模型和人类均具有高度一致性。而且，两种设定下计算的基于模型的解释与人类理性同样吻合。因此，我们实证发现人类未必以对比方式解释。9页，ACL 2022会议长文。
引用
@article{arxiv.2310.11906,
title = {Rather a Nurse than a Physician -- Contrastive Explanations under Investigation},
author = {Oliver Eberle and Ilias Chalkidis and Laura Cabello and Stephanie Brandl},
journal= {arXiv preprint arXiv:2310.11906},
year = {2023}
}
备注
9 pages, long paper at EMNLP 2023 proceedings