一种用于具有分裂可行性约束的可控 Pareto 前沿学习的 Hyper-Transformer 模型
机器学习
2024-02-12 v1 最优化与控制
摘要
可控 Pareto 前沿学习（CPFL）逼近 Pareto 解集，然后针对给定的参考向量定位一个 Pareto 最优解。然而，在实践中决策者的目标被限制在约束区域内，因此我们仅在约束区域上进行训练，而不是在整个决策空间上训练。具有分裂可行性约束（SFC）的可控 Pareto 前沿学习是一种寻找满足特定约束的分裂多目标优化问题的最佳 Pareto 解的方法。在先前的研究中，CPFL 使用了由多层感知机（Hyper-MLP）模块组成的 Hypernetwork 模型。随着 Transformer 架构在深度学习中的实质性进展，Transformer 在各种任务中可以超越其他架构。因此，我们为具有 SFC 的 CPFL 开发了一个 Hyper-Transformer（Hyper-Trans）模型。我们使用序列到序列函数的泛逼近定理，证明了在计算实验中 Hyper-Trans 模型比 Hyper-MLP 模型产生的 MED 误差更小。
引用
@article{arxiv.2402.05955,
title = {A Hyper-Transformer model for Controllable Pareto Front Learning with Split Feasibility Constraints},
author = {Tran Anh Tuan and Nguyen Viet Dung and Tran Ngoc Thang},
journal= {arXiv preprint arXiv:2402.05955},
year = {2024}
}