基于硬基数约束的线性 SVM 特征选择：一种可扩展的 SDP 分解方法
最优化与控制
2024-12-20 v2 机器学习
摘要
本文研究线性支持向量机（SVM）中的嵌入式特征选择问题，该问题采用基数约束，从而产生可解释的分类模型。尽管原始线性 SVM 可在多项式时间内求解，但由于基数约束的存在，该问题是 NP-hard 的。为处理这一困难问题，我们首先引入两种混合整数公式，并为其提出了新颖的半定松弛。利用松弛的稀疏模式，我们将问题分解并在一个小得多的锥中获得等价松弛，使得锥方法可扩展。为充分利用分解后的松弛，我们提出了利用其最优解信息的启发式方法。此外，通过求解一系列混合整数分解半定优化问题，我们提出了一种精确求解程序。本文报告了在经典基准数据集上的数值结果，展示了我们方法的有效性与高效性。
引用
@article{arxiv.2404.10099,
title = {Feature selection in linear SVMs via a hard cardinality constraint: a scalable SDP decomposition approach},
author = {Immanuel Bomze and Federico D'Onofrio and Laura Palagi and Bo Peng},
journal= {arXiv preprint arXiv:2404.10099},
year = {2024}
}
备注
Submitted to European Journal of Operational Research. arXiv admin note: text overlap with arXiv:1808.02435 by other authors