利用潜空间表示发现分布偏移

表示学习的快速进展导致了嵌入模型的激增，以及模型选择和实际应用的相关挑战。评估模型对新的候选数据集的泛化能力并非易事，而泛化失败可能导致下游任务性能不佳。分布偏移是泛化能力降低的一个原因，且在实践中往往难以检测。在本文中，我们利用嵌入空间几何提出一个用于检测分布偏移的非参数框架，并给出两种检验。第一种检验通过建立一个由可理解的绩效准则确定的鲁棒性边界，来比较参考数据集与候选数据集以检测偏移。第二种检验通过对两个数据集的多个子样本进行特征化并分类为分布内与分布外来检测偏移。在评估中，两种检验均能在多种偏移场景下，对合成与真实世界数据集检测出影响模型的分布偏移。