识别易实例以提高算法选择中机器学习管道的效率
机器学习
2024-06-26 v1 神经与进化计算
摘要
算法选择(AS)方法对于从大型实例集合中获得最佳性能至关重要。然而,许多 AS 方法依赖于分析阶段,例如通过采样解来计算特征并用作机器学习模型的输入。因此,要使 AS 高效,重要的是该分析阶段计算成本不高。我们提出了一种识别易实例的方法,这些实例可以无需算法选择即可使用通用求解器快速求解。这可以节省与特征计算相关的计算预算,从而可在 AS 管道的其他地方使用,例如,使对困难问题的额外功能评估成为可能。在两个设置(批量和流式)中,对 BBOB 数据集进行实验,表明识别易实例可在函数评估方面实现显著的节省。通过将节省的预算重新分配给困难问题,可实现对虚拟最佳求解器(VBS)、单一最佳求解器(SBS)以及训练的算法选择器的性能提升。
引用
@article{arxiv.2406.16999,
title = {Identifying Easy Instances to Improve Efficiency of ML Pipelines for Algorithm-Selection},
author = {Quentin Renau and Emma Hart},
journal= {arXiv preprint arXiv:2406.16999},
year = {2024}
}
备注
To appear in the proceedings of the 18th International Conference on Parallel Problem Solving from Nature (PPSN 2024)