面向实时AutoML的在线元学习(OnMAR)
机器学习
2025-02-28 v1
摘要
自动机器学习(AutoML)是一个研究利用优化技术设计机器学习算法的领域,旨在减轻人工进行手动算法设计的需求。实时AutoML使设计过程能够在机器学习算法应用于任务的同时进行。实时AutoML是一个新兴的研究领域,因此现有的实时AutoML技术需要在设计质量和设计创建时间方面进行改进。为解决这些问题,本研究提出了面向实时AutoML的在线元学习(OnMAR)方法。元学习以元特征的形式收集机器学习算法优化过程的信息。元特征与元学习器结合使用以优化优化过程。OnMAR方法使用元学习器来预测机器学习设计的准确率。如果元学习器预测的准确率足够,则使用该设计;如果预测准确率较低,则优化技术创建新设计。遗传算法(GA)是OnMAR方法中使用的优化技术。测试了不同的元学习器(k近邻、随机森林和XGBoost)。OnMAR方法是模型无关的(即不特定于单个实时AutoML应用),因此在三个不同的实时AutoML应用上进行了评估,分别是:组合图像聚类算法、配置卷积神经网络的超参数以及配置视频分类流水线。OnMAR方法有效,匹配或超越了现有的实时AutoML方法,且具有运行时间更快的额外优势。
引用
@article{arxiv.2502.20279,
title = {Online Meta-learning for AutoML in Real-time (OnMAR)},
author = {Mia Gerber and Anna Sergeevna Bosman and Johan Pieter de Villiers},
journal= {arXiv preprint arXiv:2502.20279},
year = {2025}
}
备注
First page is a graphical abstract, this is a journal article submission