用于无监督变量选择的惰性 FSCA
机器学习
2025-02-18 v2
摘要
各种无监督贪心选择方法已被提出，作为 NP 难子集选择问题在计算上易处理的近似。这些方法依赖于依次选择相对于某一选择准则能最佳提升性能的变量。已有理论结果提供了性能界，并使得对于满足称为子模性的收益递减性质的选择准则能够实现“惰性贪心”高效实现。这推动了基于互信息和帧势的变量选择算法的发展。最近，作者提出了前向选择成分分析（FSCA），其使用解释方差作为选择准则。尽管该准则不是子模的，FSCA 已被证明在诸如测量方案优化等应用中非常有效。本文提出了 FSCA 算法的“惰性”实现（L-FSCA），尽管由于缺少子模性而与 FSCA 不等价，但有望在计算出快多达一个数量级的同时产生可比的性能。通过使用模拟和真实案例研究，将 L-FSCA 与 FSCA 及文献中其他五种无监督变量选择方法进行系统比较，证明了 L-FSCA 的有效性。实验结果证实，在所考虑的案例研究中，L-FSCA 产生与 FSCA 几乎一致的性能，同时将计算时间减少了 22% 至 94%。
引用
@article{arxiv.2103.02687,
title = {Lazy FSCA for Unsupervised Variable Selection},
author = {Federico Zocco and Marco Maggipinto and Gian Antonio Susto and Seán McLoone},
journal= {arXiv preprint arXiv:2103.02687},
year = {2025}
}
备注
Submitted to Engineering Applications of Artificial Intelligence. This second version is more focused on the lazy implementation of FSCA as visible from the new title; further experiments are also added