使用 Transformer 从自然语言生成代码
计算与语言
2022-02-02 v1 机器学习
摘要
我们利用 CoNaLa 数据集解决了从自然语言描述生成代码片段的问题。我们使用基于自注意力的 transformer 架构，并表明其性能优于基于循环注意力的编码器-解码器。此外，我们开发了一种改进的反向翻译形式，并使用循环一致损失以端到端方式训练模型。我们取得了 16.99 的 BLEU 分数，超越了此前报道的 CoNaLa 挑战赛基线。
引用
@article{arxiv.2202.00367,
title = {Natural Language to Code Using Transformers},
author = {Uday Kusupati and Venkata Ravi Teja Ailavarapu},
journal= {arXiv preprint arXiv:2202.00367},
year = {2022}
}