基于色度积分的距离型监督学习特征子集加权
机器学习
2025-09-26 v1 人工智能
摘要
本文提出一种基于单调度量的特征子集加权方法，用于距离型监督学习。采用色度积分定义距离度量，以融合这些加权。该集成使所提距离能够有效捕捉非线性关系，并考虑条件属性与决策属性之间的相互作用以及条件属性内部的相互作用，从而实现更灵活的距离度量。具体而言，本方法确保在添加重复且高度相关特征后，距离测量值不受影响。另一个关键点在于，该方法使特征子集加权在计算上是可行的，因为每次只需计算 m 个特征子集权重，而无需计算全部特征子集权重（2^m），其中 m 为属性数量。接下来，我们还考察了采用色度积分衡量相似度是否导致距离的非等价定义。进一步探讨了距离与相似度之间的关系，通过双测度进行分析。此外，提出对称色度距离与相似度，保留经典的相似度与距离之间的对称性。最后，本文引入具体的特征子集加权距离度量，在 k-最近邻（KNN）分类场景中进行评估，并与马哈拉博斯距离和加权距离方法进行比较。
引用
@article{arxiv.2504.00624,
title = {Feature Subset Weighting for Distance-based Supervised Learning through Choquet Integration},
author = {Adnan Theerens and Yvan Saeys and Chris Cornelis},
journal= {arXiv preprint arXiv:2504.00624},
year = {2025}
}