EVA-0:仅需两次前向传播的测试时模型演化
机器学习
2026-05-20 v1 人工智能
摘要
测试时模型演化为部署模型从无标签测试时经验中进行改进提供了可前景的途径,但大多数现有方法依赖反向传播(Backpropagation, BP),造成 substantial 内存开销,难以在边缘设备、量化模型、专用加速器或黑盒模型上部署。本文研究严格两次前向预算下的测试时模型演化,推动适应向高度有效的实际部署迈进。我们揭示了零阶测试时优化中的三个关键障碍:对捷径解的脆弱性、受控的权重漂移以及对无效更新方向估计的不足。为克服这些障碍,我们提出EVA-0,一个最小化的零阶适应框架:1) 使损失保持尺度不变以防止捷径解;2) 设计锚导优化策略以缓解权重漂移;3) 使用样本级对称双侧扰动进行更新方向估计和推理。EVA-0无需BP,仅需每个样本两次前向传播即可完成推理和适应。在ImageNet-C与ViT-Base上,EVA-0在准确率上超越基于BP的DeYO和BP-free FOA,同时相较于FOA实现了14倍加速。代码将公开发布。
引用
@article{arxiv.2605.18867,
title = {EVA-0: Test-Time Model Evolution with Only Two Forward Passes per Sample},
author = {Guohao Chen and Shuaicheng Niu and Geng Li and Yunbei Zhang and Shilin Shan and Chunyan Miao and Jianfei Yang},
journal= {arXiv preprint arXiv:2605.18867},
year = {2026}
}