面向持续更新问答的即插即用适配方法
计算与语言
2022-04-28 v1
摘要
语言模型（LMs）作为隐式知识库（KBs）已展现出巨大潜力。在实际应用中，语言模型中的知识需要定期更新。然而，现有评估语言模型作为知识库效能的任务并未充分考虑多次大规模更新。为此，我们首先提出一项新任务——持续更新问答（CuQA）——在该任务中，对语言模型进行多次大规模更新，并根据其添加和更新知识同时保留现有知识的成功程度来衡量性能。然后，我们为语言模型配备了能有效处理这些更新的即插即用模块。在 zsRE QA 和 NQ 数据集上进行的实验表明，我们的方法优于现有方法。我们发现，与微调基线相比，我们的方法在更新/遗忘比率方面的有效性提升了 4 倍。
引用
@article{arxiv.2204.12785,
title = {Plug-and-Play Adaptation for Continuously-updated QA},
author = {Kyungjae Lee and Wookje Han and Seung-won Hwang and Hwaran Lee and Joonsuk Park and Sang-Woo Lee},
journal= {arXiv preprint arXiv:2204.12785},
year = {2022}
}
备注
Accepted at Findings of ACL 2022