向量量化潜在概念：聚类驱动概念发现的可扩展替代方案
机器学习
2026-02-04 v1 计算与语言
摘要
深度学习模型在隐藏表示中编码了丰富的语义信息。然而，要理解这些信息在作出预测时实际依赖的部分 remains 挑战。一个有前景的事后概念基方法依赖于对标记表示进行聚类。然而，常用的方法如层次聚类在大规模数据集上计算上不可行，K-Means 往往产生浅层或频繁主导的聚类。我们提出了向量量化潜在概念（VQLC）方法，一个建立在向量量化变分自编码器（VQ-VAE）架构之上的框架，通过学习离散码本将连续表示映射到概念向量。我们进行了彻底的评估，表明 VQLC 在保持可理解解释质量的可比性同时，提高了可扩展性。
引用
@article{arxiv.2602.02726,
title = {Vector Quantized Latent Concepts: A Scalable Alternative to Clustering-Based Concept Discovery},
author = {Xuemin Yu and Ankur Garg and Samira Ebrahimi Kahou and Hassan Sajjad},
journal= {arXiv preprint arXiv:2602.02726},
year = {2026}
}