面向在线选择与评估生成模型的多臂老虎机方法
机器学习
2025-03-12 v3
摘要
现有的生成模型评估和比较框架考虑的是离线设置,即评估器可获得来自模型产生的大批量数据。然而,在实际场景中,目标通常是使用最少的生成样本来识别和选择最佳模型,以最小化查询次优模型数据的成本。在本工作中,我们提出了一个在线评估和选择框架,以在一组可用模型中找到能够最大化标准评估得分的模型。我们将该任务视为多臂老虎机 (MAB),并提出上置置信区间 (UCB) 老虎机算法以识别产生评估得分最佳数据的模型,该得分量化了生成数据的质量和多样性。具体而言,我们发展了考虑Fréchet距离 (FD) 和Inception得分 (IS) 指标的MAB-based生成模型选择, resulting in the FD-UCB 和 IS-UCB算法。我们为这些算法证明了懊悼界,并在标准图像数据集上呈现数值结果。我们的实证结果表明,MAB方法对于样本高效的生成模型评估和选择是有效的。项目代码可在 https://github.com/yannxiaoyanhu/dgm-online-eval. 上获得。
引用
@article{arxiv.2406.07451,
title = {A Multi-Armed Bandit Approach to Online Selection and Evaluation of Generative Models},
author = {Xiaoyan Hu and Ho-fung Leung and Farzan Farnia},
journal= {arXiv preprint arXiv:2406.07451},
year = {2025}
}
备注
arXiv version