LiveTune：面向反馈驱动优化的动态参数调优
机器学习
2024-05-14 v2 性能
摘要
反馈驱动优化（如传统机器学习训练）是一个静态过程，缺乏超参数的实时适应性。优化的调优方案需要试错配合检查点与调度器，且在许多情况下算法反馈被忽视。在优化过程中调整超参数通常需要重启程序，浪费利用率与时间，同时对内存和处理器施加不必要的压力。我们提出 LiveTune，一种通过 LiveVariables 实现优化循环实时参数调整的新框架。LiveVariables 通过将参数存储在系统指定端口上并允许动态调整，实现持续的反馈驱动优化。我们在标准机器学习训练流水线上的大量评估表明，每次超参数变更可节省多达 60 秒和 5.4 千焦能量。我们还展示了 LiveTune 在强化学习应用中的可行性与价值，其中用户在智能体学习时改变奖励结构的动态，相较基线实现 5 倍提升。最后，我们勾勒了一个全自动化工作流，以提供端到端、无监督的反馈驱动优化。
引用
@article{arxiv.2311.17279,
title = {LiveTune: Dynamic Parameter Tuning for Feedback-Driven Optimization},
author = {Soheil Zibakhsh Shabgahi and Nojan Sheybani and Aiden Tabrizi and Farinaz Koushanfar},
journal= {arXiv preprint arXiv:2311.17279},
year = {2024}
}