迈向绿色自动化机器学习:现状与未来方向
机器学习
2023-06-16 v4
摘要
自动化机器学习(AutoML)致力于自动配置机器学习算法并将其组合成整体(软件)解决方案——机器学习流水线——针对手头的学习任务(数据集)。在过去十年中,AutoML已发展成为一个独立的研究领域,有数百篇贡献。与此同时,AutoML因其高资源消耗而受到批评,因为许多方法依赖于对许多机器学习流水线的(昂贵)评估,以及跨许多数据集和方法的昂贵大规模实验。本着近期关于绿色AI的工作精神,本文提出了绿色AutoML,一种使整个AutoML过程更加环保的范式。因此,我们首先阐述了如何量化AutoML工具的环境足迹。之后,总结了关于如何设计和基准测试AutoML工具“绿色度”(即可持续性)的不同策略。最后,我们阐述了如何对环境足迹保持透明,以及什么样的研究激励可以引导社区走向更可持续的AutoML研究方向。此外,我们提出了一个可持续性检查表,附在每篇AutoML论文上,涵盖绿色AutoML的所有核心方面。
引用
@article{arxiv.2111.05850,
title = {Towards Green Automated Machine Learning: Status Quo and Future Directions},
author = {Tanja Tornede and Alexander Tornede and Jonas Hanselle and Marcel Wever and Felix Mohr and Eyke Hüllermeier},
journal= {arXiv preprint arXiv:2111.05850},
year = {2023}
}
备注
Published in Journal of Artificial Intelligence Research