从聚类到通过神经网络实现聚类解释

机器学习近期的一个趋势是赋予已学习模型解释其自身预测的能力。新兴的可解释人工智能(Explainable AI, XAI)领域迄今主要聚焦于监督学习,尤其是深度神经网络分类器。然而,在许多实际问题中,标签信息并未给出,目标反而是发现数据的底层结构,例如其聚类。尽管已有强大的方法用于提取数据中的聚类结构,它们通常不能回答为何某个数据点被分配到给定聚类的问题。我们提出了一种新框架,首次能够以高效且可靠的方式,基于输入特征解释聚类分配。该框架基于一个新颖的洞见:聚类模型可被重写为神经网络——或称“神经化”(neuralized)。所得网络的聚类预测随后可快速且准确地归因于输入特征。若干示例展示了我们的方法在评估所学聚类质量以及从所分析的数据与表示中提取新见解方面的能力。