从函数建模到分布建模:一种PAC生成式离线优化方法
机器学习
2024-01-05 v1
摘要
本文考虑离线优化问题,其中目标函数除了一个“离线”数据示例集合外是未知的。尽管近年来涌现了大量将各种机器学习技术应用于离线优化问题的工作,但这些工作大多数集中于学习未知目标函数的代理模型,然后应用现有的优化算法。虽然对未知目标函数进行建模的想法直观且吸引人,但从学习的角度来看,这也使得根据优化目标调整学习者的目标变得非常困难。在本文中,我们不采用学习然后优化未知目标函数的方法,而是采取一种不那么直观但更直接的观点,即优化可以被视为从生成模型中采样的过程。为了从离线数据示例中学习有效的生成模型,我们考虑了标准的“重加权”技术,我们的主要技术贡献是自然优化目标的一个可能近似正确(PAC)下界,这使我们能够联合学习一个权重函数和一个基于分数的生成模型。通过使用标准离线优化基准的实证研究,证明了所提出方法的稳健竞争性能。
引用
@article{arxiv.2401.02019,
title = {From Function to Distribution Modeling: A PAC-Generative Approach to Offline Optimization},
author = {Qiang Zhang and Ruida Zhou and Yang Shen and Tie Liu},
journal= {arXiv preprint arXiv:2401.02019},
year = {2024}
}