中文

基于自适应深度聚类方法的无监督持续学习

机器学习 2021-06-29 v1 人工智能

摘要

无监督持续学习在现有文献中仍属相对未被充分探索的领域,因为绝大多数现有工作都要求无限制地访问真实标签,带来了昂贵的标注成本。另一个问题在于任务边界与任务 ID 的问题,模型更新或预测必须已知这些信息,从而阻碍了实时部署的可行性。本文提出了自自适应深度持续学习器中的知识保持(KIERA)。KIERA 源于灵活的深层聚类方法之理念,具备弹性网络结构,以及时应对变化的环境。我们提出了基于质心的经验回放,以克服灾难性遗忘问题。KIERA 不利用任何标注样本进行模型更新,同时具备任务不可知的优势。KIERA 的优势已在流行的持续学习问题中通过数值验证,其与最先进的方法相比表现出极具竞争力的性能。我们的实现可在 \textit{\url{https://github.com/ContinualAL/KIERA}} 获取。

关键词

引用

@article{arxiv.2106.14563,
  title  = {Unsupervised Continual Learning via Self-Adaptive Deep Clustering Approach},
  author = {Mahardhika Pratama and Andri Ashfahani and Edwin Lughofer},
  journal= {arXiv preprint arXiv:2106.14563},
  year   = {2021}
}

备注

currently under review