面向算法推荐问题的元特征选择评估
机器学习
2021-06-15 v2 人工智能
信息检索
摘要
随着机器学习（ML）解决方案的普及，算法与数据的发布速度快于处理它们的能力。在此背景下，算法推荐（AR）问题近来受到极大关注。该问题在文献中作为一种学习任务被解决，常作为元学习问题，旨在为特定数据集推荐最佳替代方案。为此，由元特征编码的数据集被 ML 算法探索，试图学习元表示与待使用最佳技术之间的映射。ML 成功使用面临的挑战之一是为特定数据集定义哪些特征最有价值，因为可使用若干元特征，这增加了元特征维度。本文对 AR 问题在元层上的特征选择与特征提取进行了实证分析。本研究聚焦于三个准则：预测性能、降维和流水线运行时间。如我们所验证的，应用降维（DR）方法总体上未改善预测性能。然而，DR 方案减少了约 80% 的元特征，获得与原始设置几乎相同的性能但更短的运行时间。唯一的例外是 PCA，其呈现与原始元特征大致相同的运行时间。实验结果还显示，多个数据集具有许多无信息元特征，且使用约 20% 的原始元特征即可获得高预测性能。因此，由于其高维度的天然趋势，DR 方法应被用于元特征选择与元特征提取。
引用
@article{arxiv.2106.03954,
title = {Evaluating Meta-Feature Selection for the Algorithm Recommendation Problem},
author = {Geand Trindade Pereira and Moises Rocha dos Santos and Andre Carlos Ponce de Leon Ferreira de Carvalho},
journal= {arXiv preprint arXiv:2106.03954},
year = {2021}
}