用于测试时适应的带任务向量的分层自适应网络

测试时适应允许预训练模型调整以适应传入的数据流，从而解决源域和目标域之间的分布偏移问题。然而，标准方法依赖于单维线性分类层，这些层通常无法处理多样且复杂的偏移。我们提出了带任务向量的分层自适应网络，它利用多层不断增加的规模来进行动态测试时适应。通过将编码器的表示空间分解为这样分层组织的层，Hi-Vec以即插即用的方式允许现有方法适应不同复杂程度的偏移。我们的贡献有三方面：首先，我们提出了动态层选择，用于自动识别适应每个测试批次的最佳层。其次，我们提出了一种将动态层的权重合并到其他层的机制，确保所有层都接收到目标信息。第三，我们提出了线性层一致性，它作为门控函数，通过防止在有噪声批次上进行适应而导致的错误微调。我们严格评估了Hi-Vec在挑战性场景和多个目标数据集上的性能，证明了其推进最先进方法的强大能力。我们的结果表明，Hi-Vec提高了鲁棒性，解决了不确定性，并处理了有限的批次大小和增加的异常值率。