合并与引导：统一模型合并与引导解码用于可控多目标生成
机器学习
2025-10-17 v2
摘要
在测试时适应多样化用户需求是可控多目标生成的关键挑战。现有方法不足：合并方法提供的是间接且次优的控制，往往忽视多个目标的影响；而解码引导更为直接，但通常需要来自多个专家模型的logits求和，造成显著的存储开销，并高度依赖单个模型的容量。为此，我们引入 Merge-And-GuidE (MAGE)，一个两阶段框架，利用模型合并进行引导解码。我们首先识别到引导与基础模型之间的关键兼容性问题。阶段 1 中，MAGE 通过动态构建一系列考虑多个目标的主干模型，以获得更稳健的基础模型。阶段 2 中，我们将显式和隐式价值模型合并为统一的引导代理，然后引导阶段 1 中的基础模型进行解码。我们经验性地验证了线性模式连接 (Linear Mode Connectivity, LMC) 在价值模型中的有效性，探讨了模型合并与预测集成之间的关系，并展示了我们方法所带来的增强可控性。广泛的实验表明，我们的方法优于现有方法，实现了卓越的可控性、帕累托最优性能以及增强的适应性。
引用
@article{arxiv.2510.03782,
title = {Merge and Guide: Unifying Model Merging and Guided Decoding for Controllable Multi-Objective Generation},
author = {Guofu Xie and Chen Zhang and Xiao Zhang and Yunsheng Shi and Ting Yao and Jun Xu},
journal= {arXiv preprint arXiv:2510.03782},
year = {2025}
}
备注
Work in progress