可解释的贝叶斯多视角生成式检索
信息检索
2024-02-06 v1 机器学习
摘要
现代确定性检索流水线优先追求 state-of-the-art 性能，但往往在决策过程中缺乏可解释性。这些模型在评估不确定性方面面临挑战，导致过度自信的预测。为了克服这些局限性，我们将不确定性校准和可解释性整合到检索流水线中。具体而言，我们引入了贝叶斯方法和多视角检索，以校准检索流水线内的不确定性。我们结合了 LIME 和 SHAP 等技术来分析黑盒重排序模型的行为。从这些解释方法中得出的重要性分数作为补充相关性分数，以增强基础重排序模型。我们在问答和事实验证任务上评估了通过不确定性校准和可解释重排序所实现的性能提升。我们的方法在三个 KILT 数据集上展现出显著的性能提升。
引用
@article{arxiv.2402.02418,
title = {eXplainable Bayesian Multi-Perspective Generative Retrieval},
author = {EuiYul Song and Philhoon Oh and Sangryul Kim and James Thorne},
journal= {arXiv preprint arXiv:2402.02418},
year = {2024}
}
备注
15 pages, 7 figures