中文

连续表示偏移下的近似贝叶斯类条件模型

机器学习 2024-05-08 v2 机器学习

摘要

对于由某表示空间中的分类器构成的模型,从非平稳数据流中在线学习往往需要对表示进行改变。因此,如何最好地将分类器适配于表示偏移成为一个问题。现有方法仅缓慢地使分类器随表示偏移而改变,在分类器与表示未对齐时给学习引入了噪声。我们提出 DeepCCG,一种解决该问题的经验贝叶斯方法。DeepCCG 通过更新类条件高斯分类器的后验,使分类器一步适配于表示偏移。类条件高斯分类器的使用还使 DeepCCG 能够利用对数条件边际似然损失来更新表示。为执行分类器与表示的更新,DeepCCG 在内存中维护固定数量的样本,因此 DeepCCG 的一个关键部分是选择存储哪些样本,即选取使真实后验与该子集诱导的后验之间 KL 散度最小的子集。我们在在线持续学习(CL)中探究了 DeepCCG 的行为,表明其相对于一系列在线 CL 方法表现良好,并降低了由表示偏移引起的性能变化。

关键词

引用

@article{arxiv.2305.19076,
  title  = {Approximate Bayesian Class-Conditional Models under Continuous Representation Shift},
  author = {Thomas L. Lee and Amos Storkey},
  journal= {arXiv preprint arXiv:2305.19076},
  year   = {2024}
}

备注

Published at AISTATS 2024, 9 pages