利用运动方程编码树实现实时协变量偏移适应
机器学习
2024-04-09 v1
摘要
输入分布偏移在许多现实世界的系统中是一个重要问题。在此我们提出 Xenovert,一种能够动态适应输入分布变化的自适应算法。它是一棵完美二叉树,在接收连续输入流的同时,自适应地将连续输入空间划分为若干个密度均匀的区间。此过程将源分布间接映射到偏移后的目标分布,从而在偏移发生后仍能保留数据与下游解码器/操作之间的关系。在本文中,我们展示了集成 Xenovert 的神经网络在 5 个偏移数据集中的 4 个上取得了更好的结果,省去了重新训练机器学习模型的麻烦。我们预期 Xenovert 可应用于更多需要在不可预见的输入分布偏移下进行适应的应用,即使分布偏移非常剧烈。
引用
@article{arxiv.2404.05168,
title = {Adapting to Covariate Shift in Real-time by Encoding Trees with Motion Equations},
author = {Tham Yik Foong and Heng Zhang and Mao Po Yuan and Danilo Vasconcellos Vargas},
journal= {arXiv preprint arXiv:2404.05168},
year = {2024}
}
备注
7 figures, 2 tables