通过混合UCB算法实现生成模型的最优混合：更多样性
机器学习
2025-03-25 v2 机器学习
摘要
多个训练算法和体系结构为生成模型提供了可供选择的可能性，因而需要一种选择机制来构建基于一组众所周知训练生成模型的单一模型。该选择任务通常通过识别基于生成数据的多样性和质量评估得分来实现的最佳模型。然而，这种以最佳模型识别为导向的方法忽略了混合多个可用模型可能优于每个单个模型的可能性。本文数值表明，对基准图像数据集上的多个生成模型进行混合，确实可以实现更好的评估得分（基于FID和KID得分），这些得分优于单个模型。这一观察激发了开发高效算法以选择模型的最优混合的动力。为此，我们构建一个二次优化问题，以寻找实现核基评估得分（包括核 inception distance（KID）和R\'enyi核熵（RKE））的最大值的混合模型。为在最少的样本查询次数内识别最优混合模型，我们将选择任务视为多臂赌博机（MAB）问题，提出Mixture Upper Confidence Bound（Mixture-UCB）算法，证明其收敛于涉及模型的最优混合。更广泛地，所提出的Mixture-UCB可推广到优化MAB设置中每个凸二次函数的混合权重。我们为Mixture-UCB算法证明了悔失界限，并进行了若干数值实验以展示其在寻找文本和图像生成模型最优混合方面的成功。项目代码已公开于https://github.com/Rezaei-Parham/Mixture-UCB。
引用
@article{arxiv.2412.17622,
title = {Be More Diverse than the Most Diverse: Optimal Mixtures of Generative Models via Mixture-UCB Bandit Algorithms},
author = {Parham Rezaei and Farzan Farnia and Cheuk Ting Li},
journal= {arXiv preprint arXiv:2412.17622},
year = {2025}
}