长科学文档上的零样本复杂问答

随着基于 Transformer 的语言模型的快速发展，短文档和简单问题的阅读理解任务已基本得到解决。长文档，特别是人类发现和发展知识密集的科学文档，仍然相对未被充分探索。这些文档通常伴随着复杂且更现实的问题，增加了其复杂性。我们提出了一种零样本流水线框架，使社会科学研究人员能够在无需机器学习专业知识的情况下，对完整长度的研究论文执行复杂但具有预定问题格式的问答任务。我们的方法整合了预训练语言模型，以处理具有挑战性的场景，包括多跨度提取、多跳推理和长答案生成。在 MLPsych（一个带有标注复杂问题的社会心理学论文新型数据集）上评估，我们证明我们的框架通过提取式和生成式模型的组合取得了强劲性能。这项工作推进了社会科学领域的文档理解能力，同时为研究人员提供了实用工具。