深度神经网络中标签对齐的策略
机器学习
2025-03-13 v2
摘要
最近的研究展示了在线性回归设置中成功应用标签对齐属性进行无监督域适应的方法。该研究提出，与其对表示学习进行正则化以实现域不变性，而是对线性回归模型进行正则化，使其与来自目标域数据矩阵前主奇异向量的对齐。在本工作中，我们在此基础上进行扩展，将其推广到深度学习场景中，推导了一种适用于深度神经网络的原始自适应算法的替代公式，充分利用标签对齐。我们还进行了实验，表明该方法在实现与主流无监督域适应方法相当性能的同时，收敛性更稳定。本工作中的所有实验和实现均可在以下代码库中查阅：https://github.com/xuanrui-work/DeepLabelAlignment。
引用
@article{arxiv.2410.04722,
title = {A Strategy for Label Alignment in Deep Neural Networks},
author = {Xuanrui Zeng},
journal= {arXiv preprint arXiv:2410.04722},
year = {2025}
}