交替训练式标签平滑增强提示泛化
计算机视觉与模式识别
2025-10-02 v2 机器学习
摘要
近期预训练视觉语言模型的进展显示出惊人的零样题泛化能力。为进一步提升这些模型适应各种下游任务的能力，提示调谐已成为一种高效的参数调优方法。然而，尽管其高效，提示的泛化能力仍受限。相比之下，标签平滑（LS）被广泛认为是一种有效的正则化技术，可防止模型过于自信并提高其泛化能力。这启发我们探索将LS与提示调谐集成。然而，我们观察到基础标签平滑甚至削弱了提示调谐的泛化能力。为解决此问题，我们提出了基于交替训练的标签平滑（ATLaS）方法，交替使用标准one-hot标签和由LS生成的软标签来监督提示调谐。此外，我们引入两种高效的离线软标签，包括类别级软标签（CSL）和实例级软标签（ISL），为提示调谐提供类别间或实例-类别关系。分析了所提ATLaS方法的理论属性。大量实验表明，所提ATLaS方法结合CSL和ISL，一致增强了提示调谐的泛化性能。而且，所提ATLaS方法与流行的提示调谐方法高度兼容，实现无缝集成。
引用
@article{arxiv.2508.17846,
title = {Alternating Training-based Label Smoothing Enhances Prompt Generalization},
author = {Yang Chen and Yanbin Wei and Ke Jin and Yi Kong and James Kwok and Yu Zhang},
journal= {arXiv preprint arXiv:2508.17846},
year = {2025}
}