MKA:利用跨语言共识进行模型放弃决策
计算与语言
2025-04-01 v1 机器学习
摘要
LLM 的可靠性即便在其在更多任务上取得进步时仍值得怀疑。LLM 的更广泛应用取决于其在可实用性方面是否真实可信。若不可靠,关键在于其是否能正确地校准其响应的置信水平。本文聚焦于利用 LLM 的多语言知识来指导其在被提问时是选择放弃还是作出回答。我们构建了一个多语言管线,用于校准模型的置信度并在不确定时让其放弃。我们将多个多语言模型通过该管线,以不同语言进行轮廓化分析。我们发现,管线的性能随模型和语言而异,但总体而言,模型从管线中受益。这是通过对巴尔喀什语在基线(无管线)下的准确率提升达到 来证明的。即便是高资源语言如英语,也看到了 的提升。这一结果暗示了可能的进一步改进。
引用
@article{arxiv.2503.23687,
title = {MKA: Leveraging Cross-Lingual Consensus for Model Abstention},
author = {Sharad Duwal},
journal= {arXiv preprint arXiv:2503.23687},
year = {2025}
}
备注
To appear in Building Trust Workshop at ICLR 2025