目标诱导偏置与多目标无监督特征选择中的搜索动力学
机器学习
2026-05-22 v1
摘要
无监督特征选择通常被形式化为一个联合优化子集质量和子集大小的问题。然而，这一形式化的行为严重依赖于评估目标的选择、子集大小正则化的方向以及初始化策略。我们在使用具有已知信息型、冗余型和无关型特征类型的合成数据集进行受控实验中研究了这些因素。通过将三种评估目标（准确率、轮廓得分和PCA重构损失）与子集大小的最小化或最大化组合，比较了六种形式化方法。结果表明，形式化方式对搜索动力学和最终帕累托前沿的质量具有显著影响。基于轮廓得分的形式化对简单低基数解SOLUTION产生强烈偏置，并保持较弱的预测性能代理。相比之下，提出的PCA损失目标可产生基数紧凑的子集，其测试准确率相当于直接优化监督准确率所获得的子集。总体而言，本研究表明，目标设计对于有效的多目标无监督特征选择至关重要。
引用
@article{arxiv.2605.21561,
title = {Objective-Induced Bias and Search Dynamics in Multiobjective Unsupervised Feature Selection},
author = {Mathieu Cherpitel and Thomas Bäck and Martijn R. Tannemaat and Anna V. Kononova},
journal= {arXiv preprint arXiv:2605.21561},
year = {2026}
}