域可泛化持续学习
计算机视觉与模式识别
2025-10-21 v1
摘要
为了有效适应动态的真实世界环境，智能系统必须持续获取新技能，同时将其泛化到多样化、未见情景中。本文引入一种新颖且贴近现实的设定，称为域可泛化持续学习 (DGCL)：模型依次学习包含单个域的任务，旨在在所有遇到的任务和域之间表现良好。这一设定在获取、保留和利用语义相关信息和域相关信息以实现稳健泛化方面提出了独特挑战。虽然最先进的持续学习 (CL) 方法已采用预训练模型 (PTMs) 来增强任务特定的泛化，但它们通常假设每个任务的训练和测试域相同，因此在 DGCL 中表现不佳。为此，我们提出了自适应域转换 (DoT)，一种针对 DGCL 的创新 PTMs 方法。灵感来自人类大脑的分布式加枢纽理论，DoT 在表示学习中解耦语义相关信息和域相关信息，并对各种域之间的任务表示进行自适应转换以实现输出对齐，确保平衡和泛化的预测。DoT 作为一种插件策略，显著促进了 DGCL 下最先进 CL 基线在完整参数调优和参数高效调优范式下的应用，通过大量实验进行验证。此外，DoT 被证明能够从 DGCL 中积累域可泛化知识，并以轻量级实现确保资源效率。
引用
@article{arxiv.2510.16913,
title = {Beyond RGB: Leveraging Vision Transformers for Thermal Weapon Segmentation},
author = {Akhila Kambhatla and Ahmed R Khaled},
journal= {arXiv preprint arXiv:2510.16913},
year = {2025}
}
备注
9 Images with 1 figure and 3 Tables. This is a preprint submitted to arXiv