通过移除负对比应对在线单类增量学习
机器学习
2022-03-28 v1 人工智能
摘要
近期工作研究了有监督在线持续学习设定，其中学习者接收类分布随时间变化的数据流。与其他持续学习设定不同，学习者仅一次性见到新样本，且必须区分所有已见类。该设定下若干成功方法侧重于以计算高效的方式存储并重放样本子集 alongside 流入数据。近期一项提案 ER-AML 通过对流入数据与重放数据应用基于对比学习的非对称损失，在此设定下取得强劲性能。然而，所提方法的关键要素是避免流入数据与存储数据之间的对比，这使其在不切实际于每个流阶段仅引入一个新类的设定。本工作中，我们将自监督学习中新近提出的方案（\textit{BYOL}）适配至有监督学习设定，从而解除了对比约束。我们进而表明，辅以对类原型的额外正则化，可产生一种新方法，在单类增量学习设定下取得强劲性能，并在多类增量设定下与顶尖方法具竞争力。
引用
@article{arxiv.2203.13307,
title = {Tackling Online One-Class Incremental Learning by Removing Negative Contrasts},
author = {Nader Asadi and Sudhir Mudur and Eugene Belilovsky},
journal= {arXiv preprint arXiv:2203.13307},
year = {2022}
}
备注
Accepted at NeurIPS 2021 Workshop on Distribution Shifts