基于自适应深度聚类方法的无监督持续学习
机器学习
2021-06-29 v1 人工智能
摘要
无监督持续学习在现有文献中仍属相对未被充分探索的领域,因为绝大多数现有工作都要求无限制地访问真实标签,带来了昂贵的标注成本。另一个问题在于任务边界与任务 ID 的问题,模型更新或预测必须已知这些信息,从而阻碍了实时部署的可行性。本文提出了自自适应深度持续学习器中的知识保持(KIERA)。KIERA 源于灵活的深层聚类方法之理念,具备弹性网络结构,以及时应对变化的环境。我们提出了基于质心的经验回放,以克服灾难性遗忘问题。KIERA 不利用任何标注样本进行模型更新,同时具备任务不可知的优势。KIERA 的优势已在流行的持续学习问题中通过数值验证,其与最先进的方法相比表现出极具竞争力的性能。我们的实现可在 \textit{\url{https://github.com/ContinualAL/KIERA}} 获取。
引用
@article{arxiv.2106.14563,
title = {Unsupervised Continual Learning via Self-Adaptive Deep Clustering Approach},
author = {Mahardhika Pratama and Andri Ashfahani and Edwin Lughofer},
journal= {arXiv preprint arXiv:2106.14563},
year = {2021}
}
备注
currently under review