情境才是王道
机器学习
2026-04-07 v1 人工智能
摘要
人工神经网络（ANN）正日益被部署到多样化的实际场景中，这些网络必须在与训练期间不同的数据分布下运行。这一挑战是域泛化（DG）和测试时适应（TTA）的核心问题。DG训练模型以实现对未知领域的泛化，而无需目标数据；TTA则通过在部署时对无标签测试数据进行适应来提高鲁棒性。现有方法往往复杂、资源密集且难以扩展。我们提出了CONTXT（Contextual augmentatiOn for Neural feaTure X Transforms），一种简单直观的神经特征变换的上下文增强方法。CONTXT通过简单的加法和乘法特征变换来调制内部表示。在TTA设置下，它在判别性任务（如ANN/CNN分类）和生成模型（如LLM）上均能稳健地获得一致的提升。该方法轻量级、易于集成，开销最小，使其能够在域迁移下保持稳健性能，同时无需增加复杂度。更广泛地说，CONTXT为在不重新训练的情况下引导信息流和神经处理提供了一种紧凑方式。
引用
@article{arxiv.2604.04364,
title = {Context is All You Need},
author = {Jean Erik Delanois and Shruti Joshi and Ryan Golden and Teresa Nick and Maxim Bazhenov},
journal= {arXiv preprint arXiv:2604.04364},
year = {2026}
}