中文

高效可混合性:快速在线多类逻辑回归

机器学习 2021-10-11 v1 统计理论 机器学习 统计理论

摘要

可混合性(Mixability)已被证明是获得具有最优 regret 的算法的有力工具。然而,由此产生的方法往往计算复杂度较高,这降低了它们的实际适用性。例如,在多类逻辑回归的情形下,聚合预测器(Foster 等人(2018))达到 O(log(Bn))O(\log(Bn)) 的 regret,而 Online Newton Step 达到 O(eBlog(n))O(e^B\log(n)),在 BB(比较函数范数的界)上获得双指数增益。然而,这一高统计性能是以 O(n37)O(n^{37}) 的极高计算复杂度为代价的。

关键词

引用

@article{arxiv.2110.03960,
  title  = {Mixability made efficient: Fast online multiclass logistic regression},
  author = {Rémi Jézéquel and Pierre Gaillard and Alessandro Rudi},
  journal= {arXiv preprint arXiv:2110.03960},
  year   = {2021}
}