Auto-Model:利用研究论文与 HPO 技术处理 CASH 问题
人工智能
2020-05-05 v2 机器学习
摘要
在许多领域中,已开发出大量具有完全不同超参数的算法来解决同类问题。正确选择算法与超参数设置可大幅提升整体性能,但用户常因缺乏知识而未能做到。如何帮助用户针对给定任务实例有效且快速地选择合适的算法与超参数设置,是当今一个重要研究课题,即所谓的 CASH 问题。本文中,我们设计 Auto-Model 方法,充分利用相关研究论文中的已知信息并引入超参数优化(HPO)技术,以有效解决 CASH 问题。Auto-Model 极大降低了算法实现与超参数配置空间的成本,从而能够高效且容易地处理 CASH 问题。为展示 Auto-Model 的益处,我们将其与经典的 Auto-Weka 方法比较。实验结果表明,我们提出的方法能在短时间内提供优越结果并取得更好性能。
引用
@article{arxiv.1910.10902,
title = {Auto-Model: Utilizing Research Papers and HPO Techniques to Deal with the CASH problem},
author = {Chunnan Wang and Hongzhi Wang and Tianyu Mu and Jianzhong Li and Hong Gao},
journal= {arXiv preprint arXiv:1910.10902},
year = {2020}
}
备注
12 pages, 3 figures