增量簇有效性指标引导的在线学习:性能提升与对呈现顺序的鲁棒性
机器学习
2021-08-18 v1
摘要
在流数据应用中,到达样本被处理后即丢弃,因此智能决策对终身学习系统的性能至关重要。此外,样本到达的顺序可能严重影响在线(与离线)增量学习器的性能。近年引入的增量簇有效性指标(iCVIs)为解决此类问题提供了宝贵辅助。其主要用例一直是簇质量监测;不过,最近已被集成至流聚类方法中以辅助聚类任务本身。在此背景下,本文工作引入了首个基于自适应共振理论(ART)并利用 iCVIs 进行无监督与半监督在线学习的模型。此外,它首次展示了如何利用 iCVIs 通过基于 iCVI 的匹配追踪机制调节 ART 警戒参数。该模型通过集成在线 iCVI 框架作为拓扑自适应共振理论预测映射(TopoARTMAP)的 B 模块——由此命名为 iCVI-TopoARTMAP——并在每步学习结束时采用 iCVI 驱动的后处理启发式,实现了精度提升与对顺序效应的鲁棒性。在线 iCVI 框架依据若干 iCVI 之一在每次迭代时给出输入样本至簇的分配。iCVI-TopoARTMAP 保持了 ARTMAP 模型共有的有用性质,如稳定性、对灾难性遗忘的免疫,以及通过映射场模块的多对一映射能力。iCVI-TopoARTMAP 的性能(无监督与半监督)与对呈现顺序的鲁棒性(无监督)通过合成数据集与真实世界人脸图像数据集的深度嵌入实验进行了评估。
引用
@article{arxiv.2108.07743,
title = {Incremental cluster validity index-guided online learning for performance and robustness to presentation order},
author = {Leonardo Enzo Brito da Silva and Nagasharath Rayapati and Donald C. Wunsch},
journal= {arXiv preprint arXiv:2108.07743},
year = {2021}
}