无领域语义描述符的零样本领域自适应

我们提出一种方法，可在训练阶段未给定任何数据且无领域语义描述符的情况下，推断针对未见领域的领域特定模型（如分类器）。当训练与测试分布不同时，标准监督学习方法表现不佳。零样本领域自适应试图通过在多个源领域使用训练数据来推断对未见领域泛化良好的模型，从而缓解该问题。现有方法利用观测到的表征领域的语义描述符（如时间信息）来推断未见领域的领域特定模型。然而，在实际应用中并不能总是假定此类元数据可用。所提方法通过引入潜领域向量的概念，可在无任何语义描述符的情况下推断合适的领域特定模型；潜领域向量是领域的潜表示，用于推断模型。未见领域的潜领域向量由其对应领域（在测试阶段给定）的特征向量集合推断。领域特定模型由两部分组成：第一部分用于提取待预测特征向量的表示，第二部分用于在给定潜领域向量时推断模型参数。潜领域向量与领域特定模型的后验分布由神经网络参数化，并通过随机梯度下降最大化变分下界进行优化。通过使用一个回归和两个分类任务的实验证明了所提方法的有效性。