一种用于多目标优化的增量下降方法

当前最先进的多目标优化求解器在每次迭代中计算所有 $m$ 个目标函数的梯度，在假设目标函数具有 $L-$Lipschitz连续梯度时，经过 $k$ 次迭代后产生的临界条件接近度度量上界为 $O(1/\sqrt{k})$；即它们需要 $O(m/\epsilon^2)$ 次梯度和函数计算，以产生低于某目标 $\epsilon$ 的临界条件接近度度量。我们将其降低至 $O(1/\epsilon^2)$，所提方法每次迭代仅需常数次梯度和函数计算；从而首次获得了查询复杂度代价不受 $m$ 增大影响的多目标下降型方法。为此，我们辨识出一种全新的多目标下降方向，称之为中心下降方向（central descent direction），并提出了一种增量策略。我们建立了中心下降方向的鲁棒性性质，推导了临界条件接近度度量，并表明该用于求解多目标问题的增量策略达到了以往方法未有的收敛性质。据我们所知，这是首个在无需关于问题结构的额外先验信息（如标量化处理所做）且除梯度Lipschitz连续性外无需目标函数正则性已知信息的情况下实现此方法的方法。