基于迁移感知不确定性校准器和标签分布处理器的表格数据测试时适应
机器学习
2025-02-13 v4 人工智能
机器学习
摘要
在实际场景中，表格数据常常会出现分布迁移，这会威胁机器学习模型的性能。尽管这种现象十分普遍且重要，但在表格领域处理分布迁移仍鲜有探索，这源于表格数据本身的固有挑战。就此而言，测试时适应（TTA）提供了一条有前景的解决方案，通过在不访问源数据的情况下对模型进行适应，对于隐私敏感的表格领域尤为关键。然而，现有的 TTA 方法要么忽略了表格分布迁移的本质，常涉及标签分布迁移，要么对模型施加架构约束，导致其适用性不足。为此，我们提出了 AdapTable，一个用于表格数据的新型 TTA 框架。AdapTable 在两个阶段运行：1）使用迁移感知不确定性校准器校准模型预测；2）使用标签分布处理器调整这些预测以匹配目标标签分布。我们通过理论分析和各种分布迁移情景下的大量实验验证了 AdapTable 的有效性。我们的结果表明，AdapTable 能够处理各种实际场景下的分布迁移，在 HELOC 数据集上实现了最高可达 16% 的提升。
引用
@article{arxiv.2407.10784,
title = {AdapTable: Test-Time Adaptation for Tabular Data via Shift-Aware Uncertainty Calibrator and Label Distribution Handler},
author = {Changhun Kim and Taewon Kim and Seungyeon Woo and June Yong Yang and Eunho Yang},
journal= {arXiv preprint arXiv:2407.10784},
year = {2025}
}
备注
NeurIPS Workshop on Table Representation Learning (NeurIPSW-TRL), 2024