中文

基于退火 Stein 变分超网络的可控多目标学习框架

机器学习 2025-12-11 v3 机器学习

摘要

Pareto 集学习 (PSL) 作为获取多目标学习 (MOL) 中完整最优解的有效方法备受推崇。一组最优解对准 Pareto 集的映射,在目标空间中呈现为一组稠密点。然而,当前某些方法面临一个挑战:如何在最大化超体积值同时使 Pareto 解多样化。在本文中,我们提出了一种新方法来解决这一挑战,该方法采用 Stein 变分梯度下降 (SVGD) 来逼近整个 Pareto 集。SVGD 通过应用一种形式的函数梯度下降将一组粒子推向 Pareto 集,从而有助于收敛和多样化最优解。此外,我们采用多样化梯度方向策略来彻底探讨 SVGD 在多目标优化中的统一框架,并通过退火计划使该框架具有更好的稳定性。我们引入了我们的方法 SVH-MOL,通过在多目标问题和多任务学习上的大量实验验证其有效性,显示其性能优于现有方法。

关键词

引用

@article{arxiv.2506.06715,
  title  = {A Framework for Controllable Multi-objective Learning with Annealed Stein Variational Hypernetworks},
  author = {Minh-Duc Nguyen and Dung D. Le},
  journal= {arXiv preprint arXiv:2506.06715},
  year   = {2025}
}

备注

Paper is under review