N2C2：面向跨语言上下文学习的最近邻增强置信度校准
计算与语言
2025-03-13 v1
摘要
上下文学习（ICL）的最新进展表明，当提供示例时，语言模型可以显著提升其性能。然而，跨语言场景下 ICL 的模型校准与预测置信度却鲜受关注。为弥补这一空白，我们对跨语言情感分类的 ICL 进行了全面分析。研究结果表明，ICL 在跨语言场景下表现不佳，不仅准确率低，且存在较高的校准误差。为此，我们提出了一种新方法 N2C2，该方法采用 -最近邻增强分类器来校准预测置信度。N2C2 通过利用缓存少样本实例的数据存储来缩小预测差距。具体而言，N2C2 融合了来自数据存储的预测，并引入了置信度感知分布、语义一致的检索表示以及自适应邻居组合模块，以有效利用数量有限的支持实例。在两个多语言情感分类数据集上的评估表明，N2C2 优于传统的 ICL。在准确率和校准误差方面，它超越了微调、提示微调以及近期最先进的方法。
引用
@article{arxiv.2503.09218,
title = {N2C2: Nearest Neighbor Enhanced Confidence Calibration for Cross-Lingual In-Context Learning},
author = {Jie He and Simon Yu and Deyi Xiong and Víctor Gutiérrez-Basulto and Jeff Z. Pan},
journal= {arXiv preprint arXiv:2503.09218},
year = {2025}
}