中文

关于基于鞅驱动 Fisher 提示的序列测试时适应的技术说明

机器学习 2025-10-07 v1 机器学习

摘要

我们为 M-FISHER 提出了一个理论框架,这是一种用于流数据中序列分布偏移检测和稳定适应的方法。对于检测,我们根据非一致性分数构建了一个指数鞅,并应用 Ville 不等式获得了关于误报控制的均匀时间保证,确保在任何停止时间的统计有效性。在持续偏移下,我们进一步将期望检测延迟限定为 O(log(1/δ)/Γ)\mathcal{O}(\log(1/\delta)/\Gamma),其中 Γ\Gamma 反映了偏移后的信息增益,从而将检测效率与分布散度联系起来。对于适应,我们证明了提示参数的 Fisher 预条件更新在分布流形上实现了自然梯度下降,产生了局部最优更新,在最小化 KL 散度的同时保持了稳定性和参数化不变性。这些结果共同确立了 M-FISHER 作为一种原理明确的方法,用于协变量偏移下序列决策中稳健的、任意时间有效的检测和几何稳定的适应。

关键词

引用

@article{arxiv.2510.03839,
  title  = {Technical note on Sequential Test-Time Adaptation via Martingale-Driven Fisher Prompting},
  author = {Behraj Khan and Tahir Qasim Syed},
  journal= {arXiv preprint arXiv:2510.03839},
  year   = {2025}
}