CoCoA-Mix：基于混淆与置信度的混合模型用于上下文优化
计算机视觉与模式识别
2025-06-10 v1 人工智能
机器学习
摘要
prompt tuning 通过冻结模型参数仅优化 prompt 而实现了针对特定任务的有效适配。其核心挑战在于提高特定任务的专一性以及对未见域的泛化能力。然而，冻结的编码器常常产生不一致的特征，导致类别间混淆，限制了专一性。为克服此问题，我们提出了混淆感知损失（CoA-loss），通过细化混淆类别之间的决策边界来提高专一性。此外，我们数学证明，混合模型可在不牺牲专一性的前提下增强泛化性。这通过置信度感知权重（CoA-weights）实现，根据其在类别域内的置信度调整混合模型中每个预测的权重。大量实验表明，CoCoA-Mix 这种结合了 CoA-loss 和 CoA-weights 的混合模型在提升专一性和泛化性方面超越了当前最先进的方法。我们的代码已公开于 https://github.com/url-kaist/CoCoA-Mix。
引用
@article{arxiv.2506.07484,
title = {CoCoA-Mix: Confusion-and-Confidence-Aware Mixture Model for Context Optimization},
author = {Dasol Hong and Wooju Lee and Hyun Myung},
journal= {arXiv preprint arXiv:2506.07484},
year = {2025}
}
备注
8 pages, 5 figures; accepted at ICML 2025