基于学习曲线的元学习用于预算受限算法选择
最优化与控制
2024-10-11 v1 机器学习
机器学习
摘要
为在数据集上训练大量机器学习算法至收敛再选择最佳算法的做法在计算上浪费。此外，在预算受限场景中，关键是仔细选择算法候选人并分配预算，确保有限预算最优分配以利于最有前景的候选人。将此问题建模为马尔可夫决策过程，我们提出了 novel 框架，其中智能体必须在学习过程中选择最有前景的算法，而无需等待其完全训练。在每个时间步骤，给定算法部分学习曲线的观察，智能体必须决定是分配资源进一步训练最有前景的算法(利用)，唤醒之前置于休眠的另一个算法，还是开始训练新算法(探索)。此外，我们的框架允许智能体从过去数据集上的学习曲线中进行元学习，同时包括数据集元特征和算法超参数。通过引入元学习，我们旨在避免仅基于手头数据集上不完整学习曲线的盲目决策。我们引入两个来自WCCI'22和AutoML-conf'22国际竞赛的学习曲线基准数据集，并分析了结果。我们的发现表明，元学习和学习曲线的进展均增强了算法选择过程，证据来自获胜团队的方法和我们的DDQN基线相对于启发式基线或随机搜索。有趣的是，我们的性价比高的基线——即根据小预算选择表现最佳的算法——在学习曲线不频繁相交时仍能表现良好。
引用
@article{arxiv.2410.07696,
title = {Meta-Learning from Learning Curves for Budget-Limited Algorithm Selection},
author = {Manh Hung Nguyen and Lisheng Sun-Hosoya and Isabelle Guyon},
journal= {arXiv preprint arXiv:2410.07696},
year = {2024}
}