高效可混合性:快速在线多类逻辑回归
机器学习
2021-10-11 v1 统计理论
机器学习
统计理论
摘要
可混合性(Mixability)已被证明是获得具有最优 regret 的算法的有力工具。然而,由此产生的方法往往计算复杂度较高,这降低了它们的实际适用性。例如,在多类逻辑回归的情形下,聚合预测器(Foster 等人(2018))达到 的 regret,而 Online Newton Step 达到 ,在 (比较函数范数的界)上获得双指数增益。然而,这一高统计性能是以 的极高计算复杂度为代价的。
引用
@article{arxiv.2110.03960,
title = {Mixability made efficient: Fast online multiclass logistic regression},
author = {Rémi Jézéquel and Pierre Gaillard and Alessandro Rudi},
journal= {arXiv preprint arXiv:2110.03960},
year = {2021}
}