中文

DiEC:扩散嵌入聚类

机器学习 2026-01-22 v4 人工智能

摘要

深度聚类方法通常依赖于单一、明确定义的表示进行聚类。相比之下,预训练的扩散模型在网络层和噪声时间步跨越多个尺度提供了丰富且多样化的表示。然而,一个关键挑战在于如何高效地识别层*时间步空间中最适合聚类的表示。为此,我们提出了扩散嵌入聚类(DiEC),是一个无监督框架,通过利用预训练扩散模型中的最优中间表示来进行聚类。DiEC系统地评估了在网络深度和噪声时间步轨迹上的表示的聚类可行性。同时,设计了一种无监督搜索策略,用于识别扩散模型中聚类最优层(COL)和聚类最优时间步(COT),旨在提升聚类性能并降低计算开销。DiEC以保持固定COL+COT处的结构保存DEC风格KL散度目标为主要微调方式,同时加入随机时间步的扩散去噪目标,以维持预训练模型的生成能力。无需依赖基于数据增强的一致性约束或对比学习,DiEC在多个基准数据集上实现了卓越的聚类性能。

关键词

引用

@article{arxiv.2512.20905,
  title  = {DiEC: Diffusion Embedded Clustering},
  author = {Haidong Hu and Xiaoyu Zheng and Jin Zhou and Yingxu Wang and Rui Wang and Pei Dong and Shiyuan Han and Lin Wang and C. L. Philip Chen and Tong Zhang and Yuehui Chen},
  journal= {arXiv preprint arXiv:2512.20905},
  year   = {2026}
}