精炼与净化：基于零空间去噪的正交基优化用于条件表示学习
人工智能
2026-02-06 v1 计算机视觉与模式识别
机器学习
摘要
条件表示学习旨在提取特定于准则的特征以用于定制化任务。最近的研究将通用特征投影到由大语言模型生成的文本基所张成的条件特征子空间上，以获得条件表示。然而，此类方法面临两个关键限制：对子空间基的敏感性和对子空间间干扰的脆弱性。为应对这些挑战，我们提出了OD-CRL，一个集成了自适应正交基优化和零空间去噪投影的新颖框架。具体而言，自适应正交基优化通过奇异值分解结合基于曲率的截断来构建正交语义基。零空间去噪投影通过将嵌入投影到无关子空间的零空间上来抑制非目标语义干扰。在定制化聚类、定制化分类和定制化检索任务上进行的大量实验表明，OD-CRL实现了新的最先进性能，并具有优越的泛化能力。
引用
@article{arxiv.2602.05464,
title = {Refine and Purify: Orthogonal Basis Optimization with Null-Space Denoising for Conditional Representation Learning},
author = {Jiaquan Wang and Yan Lyu and Chen Li and Yuheng Jia},
journal= {arXiv preprint arXiv:2602.05464},
year = {2026}
}