凸函数梯度范数最小化的近最优张量方法及加速原始对偶张量方法

特别地，受熵正则化最优传输问题的启发，我们考虑带线性等式约束的凸优化问题，其中对偶目标具有 Lipschitz $p$ 阶导数，并发展了求解此类问题的两种途径。第一种途径基于最小化对偶问题中梯度的范数，然后重建近似原始解。最近，Grapiglia 与 Nesterov 在其工作中给出了具有 Lipschitz $p$ 阶导数的函数之梯度范数最小化问题的复杂度下界。然而，由于文中给出的算法仅达到次优界，最优或近最优方法的问题仍然开放。我们通过提出两种近最优（至多差对数因子）方法来弥补这一缺口，其复杂度界分别为 $\tilde{O}(\varepsilon^{-2(p+1)/(3p+1)})$ 与 $\tilde{O}(\varepsilon^{-2/(3p+1)})$，分别相对于初始目标残差与起点到解的距离。随后我们将这些（具有独立意义的）结果应用于我们的原始对偶设定。作为第二种途径，我们提出一种针对带线性等式约束凸问题的直接加速原始对偶张量方法，其中对偶目标具有 Lipschitz $p$ 阶导数。对该算法，我们证明了关于对偶间隙与约束残差的 $\tilde O (\varepsilon^{-1 / (p + 1)})$ 复杂度。我们在逻辑回归、熵正则化最优传输问题与最小互信息问题的实验中展示了所提算法的实际性能。