ViRN：用于长尾持续表示学习的变分推断与分布三角测量
机器学习
2025-07-24 v1
摘要
持续学习（CL）中的长尾数据分布仍是实际人工智能系统面临的关键挑战，其中模型必须在保持旧知识的同时依次适应新类别，尽管类别不平衡严重。现有方法在稳定性和塑性之间难以平衡，常在极端样本稀缺情况下的崩溃。为此，我们提出 ViRN，一个集成变分推断（VI）与分布三角测量用于稳健长尾学习的新型 CL 框架。首先，我们通过变分自编码器（VAE）建模类别条件分布以缓解对头部类别的偏见。其次，我们利用基于 Wasserstein 距离的邻域检索和几何融合重建尾部类别分布，实现尾部类别表示的高效对齐。在六个长尾分类基准测试（包括语音任务，如稀有声学事件、方言）上进行评估，ViRN 在最先进方法上实现了 10.24% 的平均准确率提升。
关键词
引用
@article{arxiv.2507.17368,
title = {ViRN: Variational Inference and Distribution Trilateration for Long-Tailed Continual Representation Learning},
author = {Hao Dai and Chong Tang and Jagmohan Chauhan},
journal= {arXiv preprint arXiv:2507.17368},
year = {2025}
}
备注
6 pages, 2 figures