无参数在线逻辑回归的对数后悔界
机器学习
2019-02-27 v1 统计理论
统计理论
摘要
我们在逻辑回归背景下考虑在线优化过程,聚焦于扩展卡尔曼滤波器(EKF)。我们引入一种接近 EKF 的二阶算法,命名为半在线步长(SOS),我们证明了其在对抗设定下的 O(log(n)) 后悔界,为 EKF 的类似结果铺平了道路。该 SOS 的后悔界是此类无参数算法在对抗逻辑回归中的首个结果。我们证明了 EKF 在恒定动态下、在良指定逻辑回归模型中的期望 O(log(n)) 后悔界。
引用
@article{arxiv.1902.09803,
title = {Logarithmic Regret for parameter-free Online Logistic Regression},
author = {Joseph De Vilmarest and Olivier Wintenberger},
journal= {arXiv preprint arXiv:1902.09803},
year = {2019}
}