相似性学习器模型无关解释的类比与特征归因
机器学习
2022-02-03 v1
摘要
黑盒模型的事后解释在分类和回归设定中已被广泛研究。然而，对于输出两个输入之间相似度的模型的解释受到的关注相对较少。在本文中，我们为适用于表格和文本数据的相似性学习器提供模型无关局部解释。我们首先提出一种方法，提供特征归因以解释由黑盒相似性学习器确定的一对输入之间的相似性。然后我们提出类比作为机器学习中一种新形式的解释。此处目标是识别多样的类似示例对，其共享与输入对相同水平的相似性，并揭示模型预测背后的（潜在）因素。类比的选择可选择利用特征归因，从而连接两种解释形式同时保持互补性。我们证明了我们的类比目标函数是子模的，使得寻找高质量类比的搜索是高效的。我们将所提方法应用于解释由最先进句子编码器预测的句对之间相似性，以及医疗利用应用中患者之间的相似性。有效性通过定量评估、细致的用户研究和解释示例进行度量。
引用
@article{arxiv.2202.01153,
title = {Analogies and Feature Attributions for Model Agnostic Explanation of Similarity Learners},
author = {Karthikeyan Natesan Ramamurthy and Amit Dhurandhar and Dennis Wei and Zaid Bin Tariq},
journal= {arXiv preprint arXiv:2202.01153},
year = {2022}
}