分层协作超参数调优
机器学习
2022-05-12 v1 人工智能
多智能体系统
摘要
超参数调优是构建机器学习方案中最关键的阶段之一。本文展示了如何利用多智能体系统来开发一种分布式技术，以确定机器学习模型中任意超参数集的近最优值。所提方法采用分布式形成的分层基于智能体的架构，用于超参数值调优的协作搜索过程。所给出的通用模型被用于开发一种引导式随机基于智能体的调优技术，并在机器学习与全局函数优化应用中考察其行为。根据经验结果，所提模型在分类误差与函数评估次数方面优于其底层的两种随机调优策略，尤其在较高维度时表现显著。
引用
@article{arxiv.2205.05272,
title = {Hierarchical Collaborative Hyper-parameter Tuning},
author = {Ahmad Esmaeili and Zahra Ghorrati and Eric Matson},
journal= {arXiv preprint arXiv:2205.05272},
year = {2022}
}