我们所需要的只是一个问题分解单元吗？
计算与语言
2022-10-28 v2 人工智能
人机交互
机器学习
摘要
大语言模型（LMs）已在许多自然语言处理（NLP）基准上取得最先进性能。随着新基准数量的增长，我们构建更大更复杂的LMs。然而，由于相关的成本、时间和环境影响，构建新LMs可能并非理想选择。我们探索另一条路径：我们能否通过以模型优势的方式表达数据来修改数据，从而使问题对模型而言更易回答？我们研究人类是否可将难题分解为一组对模型相对更易解决的更简单问题。我们分析了一系列涉及多种推理形式的数据集，发现通过分解确实可显著提升模型性能（GPT3提升24%，RoBERTa-SQuAD配合符号计算器提升29%）。我们的方法提供了一种让人类以有意义方式参与NLP研究的可行选择。我们的发现表明，人在回路问题分解（HQD）可能提供构建大LMs的替代路径。代码和数据见 https://github.com/Pruthvi98/QuestionDecomposition
引用
@article{arxiv.2205.12538,
title = {Is a Question Decomposition Unit All We Need?},
author = {Pruthvi Patel and Swaroop Mishra and Mihir Parmar and Chitta Baral},
journal= {arXiv preprint arXiv:2205.12538},
year = {2022}
}
备注
EMNLP 2022 (17 pages)