Wasserstein 分布鲁棒优化问题的核心集方法

Wasserstein 分布鲁棒优化（\textsf{WDRO}）是一种增强机器学习在模糊数据下鲁棒性的流行模型。然而，\textsf{WDRO} 的复杂度在实践中可能令人望而却步，因为其“极小极大”形式的求解需要大量计算。近来，针对某些特定机器学习任务（如逻辑回归）已开发出若干快速的 \textsf{WDRO} 训练算法。但据我们所知，关于为通用大规模 \textsf{WDRO} 设计高效算法的研究仍相当有限。\textit{核心集（Coreset）}是压缩大型数据集的重要工具，因此已被广泛用于降低许多优化问题的计算复杂度。本文中，我们引入一个统一框架来为通用 \textsf{WDRO} 问题构造 $\epsilon$-核心集。尽管由于模糊数据的不确定性，为 \textsf{WDRO} 获得传统核心集颇具挑战，我们证明可利用 \textsf{WDRO} 的强对偶性计算“对偶核心集”。并且，对偶核心集引入的误差对于原始 \textsf{WDRO} 目标在理论上可得以保证。为构造对偶核心集，我们提出一种特别适用于 \textsf{WDRO} 对偶形式的新型网格采样方法。最后，我们实现了该核心集方法，并在实验中针对若干 \textsf{WDRO} 问题展示了其有效性。