中文

ChronosLex:面向法律分类任务时间泛化的时间感知增量训练

计算与语言 2024-05-24 v1

摘要

本研究探讨了法律多标签文本分类任务中法律概念随时间演变的动态特性所带来的挑战。现有模型在训练过程中往往忽略时间维度,导致这些模型随时间推移性能次优,因为它们将训练数据视为单一同质块。为了解决这个问题,我们引入了ChronosLex,一种增量训练范式,该范式在按时间顺序划分的数据上训练模型,保留数据的时间顺序。然而,这种增量方法引发了对最近数据过拟合的担忧,促使我们评估使用持续学习和时间不变方法的缓解策略。我们在六个法律多标签文本分类数据集上的实验结果表明,持续学习方法在防止过拟合从而增强时间泛化能力方面是有效的,而时间不变方法难以捕捉时间偏移的这些动态变化。

关键词

引用

@article{arxiv.2405.14211,
  title  = {ChronosLex: Time-aware Incremental Training for Temporal Generalization of Legal Classification Tasks},
  author = {T. Y. S. S Santosh and Tuan-Quang Vuong and Matthias Grabmair},
  journal= {arXiv preprint arXiv:2405.14211},
  year   = {2024}
}

备注

Accepted to ACL 2024