无监督模型的无标签可解释性
机器学习
2022-06-10 v3 人工智能
摘要
无监督黑盒模型难以解释。事实上，大多数现有的可解释性方法需要标签来选择要解释的黑盒输出的哪些分量。在缺乏标签的情况下，黑盒输出通常是表示向量，其分量并不对应于任何有意义的量。因此，在无标签无监督/自监督设定中选择要解释的哪些分量是一个重要但尚未解决的问题。为弥补文献中的这一空白，我们引入了事后解释技术的两个关键扩展：(1) 无标签特征重要性和 (2) 无标签样本重要性，它们分别突出在推理时黑盒构建表示所依赖的有影响的特征和训练样本。我们证明我们的扩展可以成功实现为围绕许多现有特征和样本重要性方法的简单包装器。我们通过对在不同无监督任务上训练的各种自编码器所学到的表示空间进行定性和定量比较，说明了我们无标签可解释性范式的效用。
引用
@article{arxiv.2203.01928,
title = {Label-Free Explainability for Unsupervised Models},
author = {Jonathan Crabbé and Mihaela van der Schaar},
journal= {arXiv preprint arXiv:2203.01928},
year = {2022}
}
备注
Presented at ICML 2022