中文

SNAP:基于稀疏更新的低延迟测试时适应

机器学习 2025-11-20 v1

摘要

测试时适应(Test-Time Adaptation, TTA)通过使用无标签测试数据调整模型以处理动态分布偏移。然而,现有方法依赖频繁适应和高计算成本,难以适用于资源受限的边缘环境。为此,我们提出SNAP框架,一种稀疏TTA框架,通过减少适应频率和数据使用来降低延迟,同时保持准确性。我们的 метод 能够在仅适应输入数据流的1%时保持竞争的准确性,显示其在稀疏更新下的鲁棒性。我们的方法引入了两个关键组件:(i)类别和域代表记忆(Class and Domain Representative Memory, CnDRM),用于识别和存储一小组既代表类别又代表域特征的样本,以支持有限数据下的高效适应;(ii)仅推断的批次感知记忆归一化(Inference-only Batch-aware Memory Normalization, IoBMN),通过利用这些代表样本,在推理时动态调整归一化统计信息,实现对移动目标域的高效对齐。集成五种最先进的TTA算法,SNAP将延迟降低最高可达93.12%,即使在适应率从1%到50%的范围内,准确性下降也保持在3.3%以下。这表明其在为延迟敏感应用程序提供边缘设备服务方面具有强大的实际潜力。源代码可在https://github.com/chahh9808/SNAP获取。

关键词

引用

@article{arxiv.2511.15276,
  title  = {SNAP: Low-Latency Test-Time Adaptation with Sparse Updates},
  author = {Hyeongheon Cha and Dong Min Kim and Hye Won Chung and Taesik Gong and Sung-Ju Lee},
  journal= {arXiv preprint arXiv:2511.15276},
  year   = {2025}
}