超参数调优手册:scikit-learn、PyTorch、river 与 spotPython 指南
机器学习
2023-07-21 v1 人工智能
摘要
本文档提供了使用 spotPython 对 scikit-learn、PyTorch 和 river 进行超参数调优的综合指南。第一部分介绍 spotPython 基于代理模型的优化过程,第二部分聚焦于超参数调优。给出了若干案例研究,包括针对 sklearn 模型如支持向量分类、随机森林、梯度提升(XGB)和 K 近邻(KNN)的超参数调优,以及来自 river 的 Hoeffding 自适应树回归器。还讨论了 spotPython 在 PyTorch 与 PyTorch Lightning 训练工作流中的集成。本手册以动手实践方式和逐步讲解,成为任何有意使用 Python 进行超参数调优者的实用起点。亮点包括 Tensorboard、PyTorch Lightning、spotPython 与 river 之间的协同。本出版物仍在完善中,更新见相应网页。
引用
@article{arxiv.2307.10262,
title = {Hyperparameter Tuning Cookbook: A guide for scikit-learn, PyTorch, river, and spotPython},
author = {Thomas Bartz-Beielstein},
journal= {arXiv preprint arXiv:2307.10262},
year = {2023}
}