面向软件开发的基于Transformer语言模型的问答助手
软件工程
2021-03-18 v1
摘要
问答平台（如 Stack Overflow）已对开发者搜索编程问题解决方案的方式产生重大影响。此类平台上的群体知识内容也被用于增强软件开发工具。自然语言处理尤其是更强大的语言模型的最新进展，已展现出增强文本理解与生成的能力。在此背景下，我们旨在研究影响此类模型应用于理解源代码相关数据、并产出更具交互性与智能化的软件开发助手的因素。在本初步研究中，我们特别考察“如何做”问题过滤器以及问题中上下文的层次是否会影响基于 Transformer 的问答模型的结果。我们提出，使用基于“如何做”问题的语料对模型进行微调可对模型产生积极影响，且更具上下文的问题也会引导出更客观的回答。
引用
@article{arxiv.2103.09423,
title = {Towards a question answering assistant for software development using a transformer-based language model},
author = {Liliane do Nascimento Vale and Marcelo de Almeida Maia},
journal= {arXiv preprint arXiv:2103.09423},
year = {2021}
}