解释用于生物医学文本分类的黑盒模型
人工智能
2021-02-08 v1
摘要
本文提出一种名为生物医学置信项集解释（BioCIE）的新方法，旨在对用于生物医学文本分类的黑盒机器学习模型进行事后解释。BioCIE 利用领域知识来源和置信项集挖掘方法，将黑盒的决策空间离散为较小的子空间，并提取不同子空间中输入文本与类标签之间的语义关系。置信项集揭示了生物医学概念在黑盒决策空间中如何与类标签相关联。BioCIE 使用这些项集来近似黑盒对单个预测的行为。通过优化保真度、可解释性和覆盖度度量，BioCIE 生成代表黑盒决策边界的按类解释。在多种生物医学文本分类任务和黑盒模型上的评估结果表明，BioCIE 在生成简洁、准确且可解释的解释方面优于基于扰动和决策集的方法。BioCIE 将实例级和类级解释的保真度分别提高了 11.6% 和 7.5%，并将解释的可解释性提高了 8%。BioCIE 可有效用于解释黑盒生物医学文本分类模型如何将输入文本与类标签在语义上相关联。源代码和补充材料可在 https://github.com/mmoradi-iut/BioCIE 获取。
引用
@article{arxiv.2012.10928,
title = {Explaining Black-box Models for Biomedical Text Classification},
author = {Milad Moradi and Matthias Samwald},
journal= {arXiv preprint arXiv:2012.10928},
year = {2021}
}