基于核方法的高效对比式对齐统一框架 UniCon
机器学习
2026-04-21 v1
摘要
对比式目标驱动当前的多模态模型训练仍依赖于长期随机优化。我们提出一种统一框架，用于通过核方法实现高效对比式对齐 (UniCon)，该框架涵盖线性与非线性编码器以及一对一和多对多对齐。其核心，UniCon 引入对比相似度权重矩阵 ，可实现闭式全局解，从而用以精确更新取代小批量反向传播。在 RKHS (再现核希尔伯特空间) 的视角下，UniCon 提供了核化视角，统一了对比式对齐并揭示了其与谱方法的联系。为验证理论，我们在合成数据、单模态、多模态和零样本任务上进行实验，表明 UniCon 在保持通用性和强大经验性能的同时，实现了显著的效率提升。
引用
@article{arxiv.2604.16678,
title = {UniCon: Unified Framework for Efficient Contrastive Alignment via Kernels},
author = {Hangke Sui and Yuqing Wang and Minh N Do},
journal= {arXiv preprint arXiv:2604.16678},
year = {2026}
}
备注
33 pages, 8 figures, 8 tables. Accepted by The Fourteenth International Conference on Learning Representations (ICLR) 2026