面向多源域适应的通用表示方法

无监督域适应的核心问题在于确定从哪些标记源域传输到未标记目标域。为了处理高维观察（如图像），一系列方法使用深度学习在观察的潜在空间中学习表示，这有助于在潜在空间中进行知识传递。然而，现有方法常常依赖于限制性假设来建立目标域中联合分布的可识别性，例如独立的潜在变量或不变的标签分布，这限制了其在现实世界中的适用性。在本工作中，我们提出了一个通用的域适应框架，通过学习紧凑的潜在表示来捕捉相对于预测任务的分布偏移，并解决关于应学习和传输哪些表示的根本问题。值得注意的是，我们首先展示，基于所有预测信息（即标签在所学表示的马尔可夫覆盖带）的表示学习在一般情境下往往是不够指定的。相反，我们表明，值得注意的是，通用域适应可以通过将马尔可夫覆盖带的表示划分为标签父母、子代和配偶的表示来实现。此外，其可识别性保证可以建立。基于这些理论洞见，我们开发了一个实用的、非参数的方法，用于一般情境下的域适应，可以处理不同类型的分布偏移。