量化 NLP 中的可解释性并分析性能-可解释性权衡的算法
计算与语言
2021-07-14 v1 机器学习
摘要
医疗健康领域是机器学习最具吸引力的应用之一，但模型透明性的缺乏导致该行业采用滞后。在这项工作中，我们以 MIMIC-III 临床笔记中的死亡率预测任务为案例，探索临床文本分类中可解释性与可理解性的现状。我们展示了针对完全可解释方法的多种可视化技术以及模型无关的事后归因，并提供了一种通用方法，利用不忠实度与局部 Lipschitz 在从逻辑回归到 BERT 变体的模型类型上评估解释质量。借助这些指标，我们引入了一个框架，从业者与研究人员可借此评估模型预测性能与其可用解释质量之间的前沿。我们公开了代码以鼓励对这些方法的持续改进。
引用
@article{arxiv.2107.05693,
title = {Quantifying Explainability in NLP and Analyzing Algorithms for Performance-Explainability Tradeoff},
author = {Mitchell Naylor and Christi French and Samantha Terker and Uday Kamath},
journal= {arXiv preprint arXiv:2107.05693},
year = {2021}
}
备注
To appear at Interpretable ML in Healthcare workshop at ICML 2021. 9 pages (excluding references), 6 figures