中文

面向学习 K-means 友好深度潜表征的方法

系统与控制 2025-04-09 v2 机器人学 系统与控制

摘要

聚类是数据挖掘中长期存在的问题领域。基于质心的经典聚类方法主要面临高维输入(如图像)的困难。随着深度神经网络的出现,常见做法是将数据映射到较低维的潜空间,然后在该空间上进行聚类。所采用的网络架构通常是自动编码器,它们在输出端重构给定的输入。为了保持输入的紧凑形式,自动编码器中的编码器学习提取有用特征,这些特征在重建端被解码。一种著名的基于质心的聚类算法是 K-means。在深度特征学习的语境中,最近的研究经验性地表明,学习表征和聚类质心的联合学习至关重要。然而,在这一联合学习方面,最近提出了 K-means 的一个连续变体;其中使用 softmax 函数代替 argmax,通过随机梯度下降 (SGD) 联合学习聚类和网络参数。然而,与 K-means 不同,后者的输入空间保持不变;而在前者中,质心的学习与每个数据批次的潜空间学习并行进行。这种批处理更新与经典 K-means 的概念相矛盾,后者的聚类空间(即输入空间本身)保持恒定。为此,我们提出交替学习一种聚类友好的数据表征和 K-means 基于聚类中心的方法。在一些基准数据集上的实验表明,我们的方法在已有方法之上取得了改进。

关键词

引用

@article{arxiv.2411.19495,
  title  = {Loop Shaping of Hybrid Motion Control with Contact Transition},
  author = {Michael Ruderman},
  journal= {arXiv preprint arXiv:2411.19495},
  year   = {2025}
}

备注

6 pages, 8 figures