时序概念漂移下改进的多标签分类:在标签级设定中重新思考组鲁棒算法
计算与语言
2022-03-16 v1 机器学习
摘要
在例如法律和生物医学文本的文档分类中,我们经常处理数百个类别(包括非常罕见的类别),以及由真实世界事件(如政策变化、冲突或疫情)影响引起的时序概念漂移。类别不平衡和漂移有时可通过对训练数据重采样以模拟(或补偿)已知目标分布来缓解,但如果目标分布由未知未来事件决定该怎么办?我们不是简单地均匀重采样以分散风险,而是聚焦于用于训练此类文档分类器的底层优化算法,并评估了几种最初提出用于缓解组级差异的组鲁棒优化算法。将组鲁棒算法重构为概念漂移下的自适应算法,我们发现不变风险最小化(Invariant Risk Minimization)和谱解耦(Spectral Decoupling)优于基于采样的类别不平衡与概念漂移应对方法,并在少数类上带来好得多的性能。标签集越大,该效应越明显。
引用
@article{arxiv.2203.07856,
title = {Improved Multi-label Classification under Temporal Concept Drift: Rethinking Group-Robust Algorithms in a Label-Wise Setting},
author = {Ilias Chalkidis and Anders Søgaard},
journal= {arXiv preprint arXiv:2203.07856},
year = {2022}
}
备注
9 pages, long paper at ACL 2022 Findings