用于代码检索的生成增强查询扩展
高能天体物理现象
2023-03-30 v2 广义相对论与量子宇宙学
摘要
预训练语言模型在代码检索任务中取得了可喜的成功,该任务根据给定的自然语言文档查询来查找最相关的现有代码片段。然而,现有模型仅专注于通过将文档-代码对嵌入潜在空间来对其进行优化,而未关联外部知识。在本文中,我们提出了一种生成增强的查询扩展框架。受人类检索过程——在搜索前先勾勒答案——的启发,在本工作中,我们利用强大的代码生成模型来助力代码检索任务。具体而言,我们证明,与其仅根据文档查询检索目标代码片段,不如用其生成对应物——即从代码生成模型生成的代码片段——来增强文档查询。据我们所知,这是首次尝试利用代码生成模型来增强代码检索任务。我们在 CodeSearchNet 基准上取得了新的 SOTA 结果,并显著超越了基线。
关键词
引用
@article{arxiv.2212.10691,
title = {Nucleosynthesis in Outflows from Black Hole-Neutron Star Merger Disks With Full GR$\nu$RMHD},
author = {Sanjana Curtis and Jonah M. Miller and Carla Frohlich and Trevor Sprouse and Nicole Lloyd-Ronning and Matthew Mumpower},
journal= {arXiv preprint arXiv:2212.10691},
year = {2023}
}