IIRC：增量式隐式细化分类
计算机视觉与模式识别
2021-01-13 v2 人工智能
机器学习
摘要
我们引入了“增量式隐式细化分类（IIRC）”设定，这是类增量学习设定的一种扩展，其中 incoming 的类别批次具有两个粒度层级，即每个样本可能有一个高层（粗）标签如“熊”和低层（细）标签如“北极熊”。每次只提供一个标签，模型必须推断出另一个标签（如果它已经学过的话）。该设定更贴合真实场景，其中学习器通常会多次与同一类实体交互，发现关于它们的更细粒度信息，同时仍试图不遗忘先前的知识。此外，该设定使得能够在现有设定下不易解决的一些重要终身学习任务上评估模型。这些挑战可由如下例子说明：“若一个模型在一个任务中训练了熊类，在另一个任务中训练了北极熊类，它会遗忘熊的概念吗？它会正确地推断北极熊仍是熊吗？它会错误地将北极熊标签与其他熊的品种关联吗？”。我们开发了一个标准化基准，能够在 IIRC 设定下评估模型。我们评估了几种 SOTA 终身学习算法，并指出了它们的优势与局限。例如，基于蒸馏的方法表现相对较好，但容易对每幅图像错误预测过多标签。我们希望所提出的设定及基准能为实践者提供一个有意义的问题场景。
引用
@article{arxiv.2012.12477,
title = {IIRC: Incremental Implicitly-Refined Classification},
author = {Mohamed Abdelsalam and Mojtaba Faramarzi and Shagun Sodhani and Sarath Chandar},
journal= {arXiv preprint arXiv:2012.12477},
year = {2021}
}