SURF:引导标量化权重均匀遍历帕累托前沿
机器学习
2026-05-21 v1 最优化与控制
机器学习
摘要
标量化在多目标优化中广泛应用,因其简单性和可扩展性。许多应用旨在生成代表不同用户偏好的解,理想情况下以均匀覆盖帕累托前沿(PF)的方式实现。然而,均匀抽样标量化权重通常会导致PF的非均匀覆盖。我们通过对标量化路径的几何分析解释了这一不匹配。随着标量化权重变化,对应的解沿着PF轨迹,通常以非均匀的遍历速度。这种速度导致帕累托前沿的弧长累积分布函数(CDF);反转该CDF映射可产生一种原则性的权重选择规则,以实现均匀的PF覆盖。基于此洞见,我们提出SURF(Sampling Uniformly along the PaReto Front)。对于结构化问题,包括双目标bandit,我们推导出该CDF映射和 resulting PF-aware权重抽样规则的闭式表达式。对于通用问题,SURF在CDF重建和权重抽样之间交替进行。理论上,我们证明在可证明条件下,SURF以线性收敛收敛到不可避免的有限抽样底板。实验在bandit、multi-objective-gymnasium和multi-objective LLM alignment上表明,SURF有效实现了比基线更均匀的PF覆盖。
引用
@article{arxiv.2605.20619,
title = {SURF: Steering the Scalarization Weight to Uniformly Traverse the Pareto Front},
author = {Liuyuan Jiang and Chentong Huang and Lisha Chen},
journal= {arXiv preprint arXiv:2605.20619},
year = {2026}
}