侦察特征的类别区分能力以更好地理解它们

机器学习（ML）在日常生活中的相关性与其可解释性紧密相连。可解释性可使终端用户对 ML 方案的能力与效用获得透明且人性化的认知，也将增强用户对系统自动化决策的信任。解释变量或特征以说明模型决策，是当下的迫切需求。我们未能真正找到任何基于特征的类别区分能力（尤其当真实世界数据多为多类性质时）进行解释的工作。在任何给定数据集中，一个特征对于数据点不同可能分类（或类别）间的区分并非同样有效。本工作中，我们基于特征的类或类别区分能力来解释特征。我们特别估计了变量在成对类别组合下的类别区分能力（分数）。我们在多个真实世界多类数据集上实证验证了本方案给出的可解释性。我们进一步将类别区分分数用于潜特征语境，并提出一种新颖的决策协议。本工作的另一新颖之处在于：当测试点的潜变量对可能类别具有高类别区分潜力时，提供“拒绝给出决策”选项。