提升领域增量学习：只需选择最优参数
计算机视觉与模式识别
2025-05-30 v1 人工智能
摘要
深度神经网络（DNNs）在数据分布随时间变化的现实动态环境中往往表现不佳。领域增量学习（DIL）通过实现模型的持续适应提供了一种解决方案，其中参数隔离 DIL（PIDIL）作为一种有前景的范式涌现，旨在减少知识冲突。然而，现有的 PIDIL 方法在参数选择准确性上存在困难，尤其是随着领域及对应类别数量的增加。为了解决这一问题，我们提出了 SOYO，一个改进 PIDIL 中领域选择的轻量级框架。SOYO 引入了高斯混合压缩器（GMC）和领域特征重采样器（DFR）以高效存储并平衡先验领域数据，同时多级领域特征融合网络（MDFN）增强了领域特征提取。我们的框架支持多种参数高效微调（PEFT）方法，并在图像分类、目标检测和语音增强等任务上进行了验证。在六个基准上的实验结果表明，SOYO 始终优于现有基线，展示了其在复杂、演化环境中的鲁棒性和适应性。代码将发布于 https://github.com/qwangcv/SOYO。
引用
@article{arxiv.2505.23744,
title = {Boosting Domain Incremental Learning: Selecting the Optimal Parameters is All You Need},
author = {Qiang Wang and Xiang Song and Yuhang He and Jizhou Han and Chenhao Ding and Xinyuan Gao and Yihong Gong},
journal= {arXiv preprint arXiv:2505.23744},
year = {2025}
}
备注
Accepted at CVPR 2025