ProtoTEx：用原型张量解释模型决策
计算与语言
2022-05-24 v2 人工智能
计算机与社会
人机交互
摘要
我们提出ProtoTEx，一种基于原型网络的新型白盒NLP分类架构。ProtoTEx依据编码训练样本潜在簇的原型张量，忠实地解释模型决策。在推理时，分类决策基于输入文本与原型张量之间的距离，并通过与最具影响力原型最相似的训练样本加以解释。我们还描述了一种新颖的交错训练算法，可有效处理以指示性特征缺失为特征的类别。在宣传检测任务上，ProtoTEx的精度与BART-large持平并超越BERT-large，且额外具备提供忠实解释的优势。用户研究也表明，基于原型的解释有助于非专家更好地识别在线新闻中的宣传内容。
引用
@article{arxiv.2204.05426,
title = {ProtoTEx: Explaining Model Decisions with Prototype Tensors},
author = {Anubrata Das and Chitrank Gupta and Venelin Kovatchev and Matthew Lease and Junyi Jessy Li},
journal= {arXiv preprint arXiv:2204.05426},
year = {2022}
}
备注
Accepted in ACL Main 2022