基于标签层级的不变性学习

深度神经网络继承了训练数据中嵌入的虚假关联，因此可能在对未见域（或环境）预测期望标签时失败，这些域的分布不同于训练所用域。不变性学习（IL）近年被提出以克服此缺陷；利用多域训练数据，IL 估计出对域变化保持不变的预测器。然而，多域训练数据的要求是 IL 的强限制，因其常需高昂标注成本。我们提出一种新颖 IL 框架以克服该问题。假设可用于较低标注成本的高层分类任务的多域数据，我们用单域训练数据估计目标分类任务的不变预测器。此外，我们提出两种交叉验证方法以选择不变性正则化的超参数，解决现有 IL 方法未妥善处理超参数选择的问题。所提框架（含交叉验证）的有效性经实证展示，且超参数选择的正确性在某些条件下得证。