RF+clust 用于留一问题外性能预测的敏感性分析
机器学习
2023-06-01 v1 人工智能
摘要
留一问题外 (LOPO) 性能预测要求机器学习 (ML) 模型将算法性能从一组训练问题外推至先前未见的问题。即便对最先进方法而言，LOPO 也是一项极具挑战的任务。在较易的留一实例外场景中表现良好的模型，常无法很好地泛化至 LOPO 设定。为解决 LOPO 问题，近期工作建议用被认为与测试问题相似的训练问题上算法性能的加权平均来丰富标准随机森林 (RF) 性能回归模型。更确切地说，在 RF+clust 方法中，权重按问题在某特征空间中距离的比例选取。本文中，我们通过以特征对性能回归的重要性调整基于距离的权重来扩展 RF+clust 方法。即，不再考虑特征空间中的余弦距离，而考虑加权距离度量，其权重取决于特征对回归模型的相关性。我们在 CEC 2014 基准测试套件上对改进 RF+clust 方法的实证评估证实了相较于朴素距离度量的优势。然而，我们也观察到改进空间，特别是在更具表达力的特征组合方面。
引用
@article{arxiv.2305.19375,
title = {Sensitivity Analysis of RF+clust for Leave-one-problem-out Performance Prediction},
author = {Ana Nikolikj and Michal Pluháček and Carola Doerr and Peter Korošec and Tome Eftimov},
journal= {arXiv preprint arXiv:2305.19375},
year = {2023}
}
备注
To appear at IEEE CEC 2023