借助 LCEN 与加权 Focal 可微 MCC Loss 提升分类任务性能
机器学习
2026-04-24 v1
摘要
LASSO-Clip-EN (LCEN) 算法此前用于非线性、可解释的特征选择和机器学习，其设计和应用仅限于回归任务。本文提出修改版 LCEN 算法，适用于分类任务且保持其可解释性等优势。该修改版 LCEN 在四个广泛使用的二分类和多分类数据集上进行评估。在实验中，用 LCEN 对比 10 种其他模型类型，始终获得高测试集宏 F1 分数和 Matthews 相关系数 (MCC) 指标，优于大多数所查模型。LCEN 分类模型保持稀疏性，在实验中平均消除 56% 的输入特征。此外，将 LCEN 选取的特征用于相同数据集重新训练所有模型，结果表明与使用全部特征或其他特征选择方法相比，在三项实验中实现统计显著性能提升，第四项无显著差异。同时，对加权 Focal 可微 MCC (diffMCC) loss 函数在相同数据集上进行评估。使用 diffMCC loss 函数训练的模型始终是最佳表现方法，在这些实验中，平均宏 F1 分数提高 4.9%，MCC 提升 8.5%，显著超越加权交叉熵 loss。这些结果凸显了 LCEN 作为分类任务的特征选择和机器学习算法的性能，以及 diffMCC loss 函数可训练高精度模型的作用，二者均优于加权交叉熵 loss 在所调查任务中的表现。
引用
@article{arxiv.2604.21252,
title = {Improving Performance in Classification Tasks with LCEN and the Weighted Focal Differentiable MCC Loss},
author = {Pedro Seber and Richard D. Braatz},
journal= {arXiv preprint arXiv:2604.21252},
year = {2026}
}