面向分区可行性条件的可控 Pareto 前沿学习的两阶段自适应平衡惩罚方法
机器学习
2026-05-20 v1 最优化与控制
摘要
我们解决在分区可行性条件下训练用于可控 Pareto 前沿学习(CPFL)的超网络的开放问题，提供严格的理论保证。我们将受约束的 Pareto 问题重新表述为双层标量化分区问题(BSSP)，并提出自适应平衡惩罚(ABP)算法，其三个梯度分量——最优性、集合可行性和图像可行性——通过由可计算下界驱动的自适应指示器进行混合。我们采用一种新型凸近似技术，证明了在标准凸性和 Robbins-Monro 步长假设下，ABP 具有全序列收敛性。随后，将 ABP 惩罚结构转化为针对 Hyper-MLP 和 HyperTrans 架构的两阶段、可行性优先训练策略(ABP-HyperNet)。为评估受约束 CPFL，我们引入期望可行超平面(EFHV)，联合捕获解的质量与约束满足情况。实验在五个多目标基准上验证了 ABP 求解器与真实值的对比，三个多任务学习数据集表明，ABP-HyperNet 相较于无约束基线可提高 EFHV 最多 2.3 倍，通过将可行性从 36%-49% 提升至 87%-100% 实现。
引用
@article{arxiv.2605.19306,
title = {A Two-Phase Adaptive Balanced Penalty Method for Controllable Pareto Front Learning under Split Feasibility Conditions},
author = {Nguyen Viet Hoang and Dung D. Le and Tran Ngoc Thang},
journal= {arXiv preprint arXiv:2605.19306},
year = {2026}
}
备注
36 pages, 18 figures, 12 tables. Submitted to Neural Networks (Elsevier)