Chain-of-Skills：一种用于开放域问答的可配置模型

检索模型是现实世界知识密集型任务（例如开放域问答（ODQA））不可或缺的组成部分。由于不同数据集标注了独立的检索技能，近期工作聚焦于定制化方法，限制了模型的迁移性与可扩展性。在本工作中，我们提出一种模块化检索器，其中各个模块对应于可跨数据集复用的关键技能。我们的方法支持基于目标领域的灵活技能配置以提升性能。为缓解任务干扰，我们设计了一种受稀疏 Transformer 启发的新型模块化参数化方法。我们证明了我们的模型可从基于 Wikipedia 的自监督预训练以及使用多个 ODQA 数据集以多任务方式进行的微调中获益。我们的方法在零样本评估中优于近期自监督检索器，并在 NQ、HotpotQA 和 OTT-QA 上取得了最先进的微调检索性能。