线性规划和半正定规划的香农- von Neumann 熵正则化

我们考虑标准形式的线性规划 min {c^T x: Ax = b; x >= 0}，并受到最优传输中的 $\epsilon$-正则化的启发，引入其 $\epsilon$-正则化 ''min {c^T x + $\epsilon$ f (x): Ax = b; x >= 0}''，其中 f(x) 为（凸）Boltzmann-Shannon 熵 f(x) := sum_i x_i ln x_i。我们还为半正定规划 ''min {Tr(C $\bullet$ X): A(X) = b; X >= 0}'' 提供类似的正则化，但使用所谓的 Von Neumann 熵，如同量子最优传输。重要的是，这些问题均非 LP 和 SDP 锥的屏障。我们展示，该问题 admits 一个等价的无约束凸问题 max lambda in R^m G_epsilon(lambda) for an explicit concave differentiable function G_epsilon in dual variables lambda in R^m。当 epsilon 趋于零时，其最优值收敛于初始 LP 的最优值。虽然它类似于内点算法中用于初始 LP 的 log-barrier 形式，但具有区别优势。具体而言，对于固定的 lambda，G_epsilon(lambda) 通过对整个空间 x in R^d 的最小化获得（而不是对 x >= 0），从而仍获得非负解 x(lambda) >= 0，使得 G_epsilon 的显式形式对于其在 R^m 上的无约束最大化非常有用。