Un-Mixing Test-Time Normalization Statistics: Combatting Label Temporal Correlation

近期的测试时适应方法 heavily 依赖于对批归一化（BN）参数的细微调整。然而，一个关键假设常被忽视：即测试批次相对于未知标签是独立同分布（i.i.d.）的。这一疏忽导致 BN 统计量发生偏斜，并削弱了模型在非 i.i.d. 场景下的可靠性。为应对这一挑战，本文提出了一种名为“解混测试时归一化统计量”（UnMix-TNS）的新方法。我们的方法通过将每个实例与多个不同的统计量分量混合，重新校准测试批次内每个实例的统计量，从而内在模拟 i.i.d. 场景。该方法的核心在于一种独特的在线解混过程，通过纳入新测试批次中最相似的实例来持续更新这些统计量分量。UnMix-TNS 在设计上具有显著的通用性，可无缝集成到各种领先的测试时适应方法及配备 BN 层的预训练架构中。实证评估证实了 UnMix-TNS 在不同场景下的鲁棒性——从单一到连续及混合域偏移，尤其在处理时间相关测试数据和受损的非 i.i.d. 真实世界流数据方面表现卓越。即使在极小批量大小或单实例情况下，这种适应性依然保持。我们的结果突显了 UnMix-TNS 在各类基准测试中显著提升稳定性和性能的能力。我们的代码公开于 https://github.com/devavratTomar/unmixtns。