基于主动自训练的在线持续适应

用离线数据训练的模型常受持续分布偏移和变化环境中标注成本高昂的困扰。这需要一种新的在线学习范式，使学习器能用有限标签持续适应变化环境。本文提出一种新的在线设定——在线主动持续适应，其中学习器旨在利用无标签样本和有限标签的主动查询来持续适应变化的分布。为此，我们提出在线自适应镜像下降（OSAMD），它采用在线师生结构以从无标签数据实现在线自训练，并采用基于间隔的准则来决定是否查询标签以跟踪变化分布。理论上，我们证明在可分离情形下，OSAMD 在温和假设下具有 $O({T}^{2/3})$ 动态后悔界，这与具有全标签的在线学习算法的 $\Omega(T^{2/3})$ 下界一致。一般地，我们给出 $O({T}^{2/3} + \alpha^* T)$ 的后悔界，其中 $\alpha^*$ 表示域的可分性且通常较小。我们的理论结果表明 OSAMD 能通过主动查询快速适应变化环境。在实证上，我们在模拟和真实数据上展示了 OSAMD 在有限标签变化环境下取得良好的后悔值，印证了我们的理论发现。