LUCoS：用于表格基础模型的潜在无监督上下文选择

选择哪些实例进行标注是低标签表格学习中的关键挑战。对于最近的表格基础模型，如 TabPFN，上下文选择直接决定预测性能。监督式 oracle 实验表明，精心挑选的标记上下文集在相同标注预算下可显著优于随机选择。然而，冷启动设置——即在任何标签可用前必须选择实例——在 TFM 文献中关注不足。这个问题本质上是几何的。在视觉和语言领域，基础模型诱导出其中心空间，使得简单几何选择方法有效。相比之下，表格实例选择迄今为止主要在原始表格空间内进行，该空间缺乏自然的度量标准；异构类型、混合尺度和非线性相互作用使得原始空间距离不可靠用于上下文构建，原始空间的选择在大多数数据集上都低于随机选择，随着预算的增加。我们提出 LUCoS（潜在无监督上下文选择），通过替换原始特征几何为基础模型嵌入诱导的潜在几何，并选择具有代表性的中点作为上下文。我们在 67 个 OpenML-CC18 数据集上进行评估，覆盖六种低标签预算，LUCoS 在平均 AUC、ACC 和 F1 指标下均名列第一，结论在不同指标和数据集层面的鲁棒性检查中保持稳定。一种 gain 分解揭示了一种简单机制：在最小预算下，主要益处来自强制覆盖；随着预算的增加，决定性因素变成用于衡量覆盖的表示空间。LUCoS 缓解了原始特征空间选择的缺陷，表明可靠的无监督上下文选择更多依赖于定义在有意义表示几何中的代表性，而非选择器的复杂程度。