ACIL:具有绝对记忆与隐私保护的分析式类增量学习
机器学习
2022-12-13 v2 计算机视觉与模式识别
摘要
类增量学习(CIL)以渐进方式利用不同类别的训练数据学习分类模型。现有 CIL 或因灾难性遗忘而遭受严重精度损失,或因重访已用样本而侵犯数据隐私。受线性学习公式启发,我们提出一种分析式类增量学习(ACIL),在绝对记忆过往知识的同时避免数据隐私泄露(即不存储历史数据)。绝对记忆体现为:使用 ACIL 的当前数据进行的类增量学习,与消耗当前及历史样本的联合学习对应方法给出完全相同的结果。该等式在理论上得到验证。由于学习过程中不涉及任何历史数据,数据隐私得以保证。实证验证表明,ACIL 在各种增量任务设定(如 5–50 阶段)下具有竞争力的精度表现且结果近乎一致。这也使 ACIL 在大量阶段场景(如 25 和 50 阶段)中优于最先进方法。
引用
@article{arxiv.2205.14922,
title = {ACIL: Analytic Class-Incremental Learning with Absolute Memorization and Privacy Protection},
author = {Huiping Zhuang and Zhenyu Weng and Hongxin Wei and Renchunzi Xie and Kar-Ann Toh and Zhiping Lin},
journal= {arXiv preprint arXiv:2205.14922},
year = {2022}
}
备注
published in NeurIPS 2022