用于联合判别聚类与特征选择的互信息的稀疏与几何感知泛化
机器学习
2024-07-19 v2 人工智能
机器学习
统计计算
统计方法学
摘要
聚类中的特征选择是一项艰巨的任务，涉及同时发现相关聚类以及与这些聚类相关的变量。虽然特征选择算法通常是基于模型的，通过优化的模型选择或对数据分布的强假设来实现，但我们引入了一种判别聚类模型，试图最大化一种称为 GEMINI 的互信息的几何感知泛化，并带有简单的 l1 惩罚：Sparse GEMINI。该算法避免了组合特征子集探索的负担，并且易于扩展到高维数据和大量样本，同时仅设计判别聚类模型。我们在合成数据集和大规模数据集上展示了 Sparse GEMINI 的性能。我们的结果表明，Sparse GEMINI 是一种具有竞争力的算法，并且能够在不使用相关性标准或先验假设的情况下，选择与聚类相关的变量子集。
引用
@article{arxiv.2302.03391,
title = {Sparse and geometry-aware generalisation of the mutual information for joint discriminative clustering and feature selection},
author = {Louis Ohl and Pierre-Alexandre Mattei and Charles Bouveyron and Mickaël Leclercq and Arnaud Droit and Frédéric Precioso},
journal= {arXiv preprint arXiv:2302.03391},
year = {2024}
}
备注
Published in Statistics and Computing, Volume 34, article number 155, (2024), https://doi.org/10.1007/s11222-024-10467-9