fMBN-E：用于聚类的高效无监督网络结构集成与选择
机器学习
2022-08-30 v5
摘要
众所周知，无监督非线性降维与聚类对超参数的选择敏感，尤其对于基于深度学习的方法，这阻碍了其实用。在缺乏数据先验知识的情况下，如何为深度模型选取在不同应用中可能差异巨大的合适网络结构是一个难题。本文中，我们旨在通过简单的集成学习与选择技术，自动确定名为多层自助网络（MBN）的深度模型的最优网络结构。具体而言，我们首先提出一种 MBN 集成（MBN-E）算法，将一组具有不同网络结构的 MBN 基模型的稀疏输出拼接为一种新表示。然后，我们将 MBN-E 产生的新表示作为选择最优 MBN 基模型的参考。此外，我们提出 MBN-E 的快速版本（fMBN-E），其不仅在理论上比单个标准 MBN 更快，而且不增加 MBN-E 的估计误差。重要的是，MBN-E 及其集成选择技术保持了 MBN 基于一最近邻学习的简洁形式。实证上，与若干先进深度聚类方法以及多达 20 种代表性无监督集成学习与选择方法相比，所提方法在无需手动调参下达到了 SOTA 性能。fMBN-E 实证上甚至比 MBN-E 快数百倍且不遭受性能退化。在图像分割与图数据挖掘上的应用进一步展示了所提方法的优势。
引用
@article{arxiv.2107.02071,
title = {fMBN-E: Efficient Unsupervised Network Structure Ensemble and Selection for Clustering},
author = {Xiao-Lei Zhang},
journal= {arXiv preprint arXiv:2107.02071},
year = {2022}
}