面向持续学习的信息论在线记忆选择
机器学习
2022-04-12 v1 机器学习
摘要
在无任务持续学习中的一个挑战性问题是：从数据流中在线选择具有代表性的回放记忆。本文从信息论视角研究在线记忆选择问题。为获取最多信息，我们提出“惊奇(surprise)”与“可学习性(learnability)”准则来挑选信息丰富的样本并避免离群点。我们提出一种贝叶斯模型，通过利用秩一矩阵结构高效计算这些准则。我们证明这些准则能在贪心算法中促进选择信息丰富的点用于在线记忆选择。此外，通过识别“更新记忆时机”的重要性，我们引入一种随机信息论蓄水池采样器(InfoRS)，该采样器在高信息量的选择性点中进行采样。与蓄水池采样相比，InfoRS 展现出对数据不平衡更强的鲁棒性。最后，在持续学习基准上的实证性能表明其效率与有效性。
引用
@article{arxiv.2204.04763,
title = {Information-theoretic Online Memory Selection for Continual Learning},
author = {Shengyang Sun and Daniele Calandriello and Huiyi Hu and Ang Li and Michalis Titsias},
journal= {arXiv preprint arXiv:2204.04763},
year = {2022}
}
备注
ICLR 2022