中文

紧支撑分布上的对偶平均及其在连续统无后悔学习中的应用

机器学习 2015-04-30 v1 最优化与控制

摘要

我们考虑连续统上的在线学习问题。决策者给定一个紧可行集 SS,并面临以下序贯问题:在迭代~tt,决策者选择分布 x(t)Δ(S)x^{(t)} \in \Delta(S),然后揭示损失函数 (t):SR+\ell^{(t)} : S \to \mathbb{R}_+ ,决策者承受期望损失 (t),x(t)=Esx(t)(t)(s)\langle \ell^{(t)}, x^{(t)} \rangle = \mathbb{E}_{s \sim x^{(t)}} \ell^{(t)}(s)。我们将该问题视为在 SS 上Lebesgue连续分布空间 Δ(S)\Delta(S) 上的在线凸优化问题。我们证明了 L2(S)L^2(S) 上对偶平均方法的一般后悔界,然后证明当 SS 是一致胖的(弱于凸性的条件)时,带有 ω\omega-势(一类强凸正则化项)的对偶平均实现次线性后悔。

关键词

引用

@article{arxiv.1504.07720,
  title  = {Dual Averaging on Compactly-Supported Distributions And Application to No-Regret Learning on a Continuum},
  author = {Walid Krichene},
  journal= {arXiv preprint arXiv:1504.07720},
  year   = {2015}
}