在零成本基准上快速评测异步多保真度优化

尽管深度学习取得了诸多成功，但其结果往往依赖于对超参数（HP）的精心选择。然而，深度学习训练的耗时特性使得 HP 优化（HPO）成为一项成本高昂的工作，减缓了高效 HPO 工具的开发。虽然提供无需实际训练的性能和运行时间的零成本基准为非并行设置提供了解决方案，但它们在并行设置中表现不佳，因为每个工作进程必须通信其查询的运行时间，以按确切顺序返回其评估结果。本工作通过引入一个用户友好的 Python 包来解决这一挑战，该包利用零成本基准促进高效的并行 HPO。我们的方法基于存储在文件系统中的信息计算确切的返回顺序，消除了漫长的等待时间，并实现了更快的 HPO 评估。我们首先通过广泛的测试验证了该方法的正确性，并且在 6 个流行的 HPO 库上的实验表明，它适用于各种库，并且与传统方法相比能够实现超过 1000 倍的加速。我们的包可以通过 pip install mfhpo-simulator 安装。