分类之外的可解释人工智能：可解释神经聚类
机器学习
2022-04-25 v3 机器学习
摘要
在本文中，我们研究可解释人工智能（XAI）与数据聚类中的两个挑战性问题。其一是如何直接设计具有内在可解释性的神经网络，而非对黑盒模型给出事后解释。其二是用可微分神经网络实现离散的 -means，以兼具并行计算、在线聚类与利于聚类的表示学习之优势。为应对这两大挑战，我们设计了一种新颖的神经网络，即可微形式的原始 -means，称为 inTerpretable nEuraL cLustering（TELL）。我们的贡献有三方面。首先，据我们所知，现有 XAI 工作大多聚焦于监督学习范式，本工作是少数关于无监督学习（尤其是数据聚类）的 XAI 研究之一。其次，TELL 是一种可解释的，或称内在可解释且透明的模型；相比之下，多数现有 XAI 研究借助各种手段通过事后解释来理解黑盒模型。第三，从数据聚类角度看，TELL 具备 -means 所高度期望的诸多性质，包括但不限于在线聚类、即插即用模块、并行计算以及可证明收敛性。大量实验表明，我们的方法在三个具挑战性的数据集上对比 14 种聚类方法取得了更优性能。源代码可访问 \url{www.pengxi.me}。
引用
@article{arxiv.1808.07292,
title = {XAI Beyond Classification: Interpretable Neural Clustering},
author = {Xi Peng and Yunnan Li and Ivor W. Tsang and Hongyuan Zhu and Jiancheng Lv and Joey Tianyi Zhou},
journal= {arXiv preprint arXiv:1808.07292},
year = {2022}
}
备注
28 pages