通过表征稳定性提升表格检索的鲁棒性
计算与语言
2026-04-29 v2 人工智能
信息检索
信息论
math.IT
摘要
基于 Transformer 的表格检索系统将结构化表格展平为标记序列，导致检索对序列化方式敏感，即使表格语义不变。我们展示，即使在保持表格语义不变的情况下，诸如 csv、tsv、html、markdown 和 ddl 等语义等价序列化，都可能在多个基准和多种检索器家族中产生显著不同的嵌入和检索结果。为解决这种不稳定性，我们将序列化嵌入视为共享语义信号的噪声视图，并使用其质心作为标准化目标表示。我们表明，质心平均化可抑制格式特定的变异，并在格式引起的偏移在不同表格之间存在差异时，恢复不同序列化间共享语义内容。经验上，质心表示在 MPNet、BGE-M3、ReasonIR 和 SPLADE 等多个嵌入器上，均在总体成对比较中优于单个格式。我们进一步在冻结编码器上引入轻量级残差瓶颈适配器，将单序列化嵌入映射到质心目标，同时保持方差并强制协方差正则化。该适配器提高了几种稠密检索器的鲁棒性，但收益取决于模型，稀疏词法检索效果较弱。这些结果表明，序列化敏感性是检索方差的主要来源之一，并显示了后验几何纠正实现序列化不变表格检索的前景。
引用
@article{arxiv.2604.24040,
title = {Improving Robustness of Tabular Retrieval via Representational Stability},
author = {Kushal Raj Bhandari and Adarsh Singh and Jianxi Gao and Soham Dan and Vivek Gupta},
journal= {arXiv preprint arXiv:2604.24040},
year = {2026}
}