语法还不够：面向神经代码修复的小型 Transformer 模型实证研究
软件工程
2025-12-30 v1
摘要
使用神经模型进行自动化程序修复在基准数据集上显示出有前景的成果，但实际部署仍受限于限制。在本研究中，我们检验了小型 Transformer 模型是否能够有意义地修复真实世界的 Java 错误，以及语法正确性是否是语义正确性的可靠代理。我们在 CodeXGLUE 上微调 CodeT5-small（6050 万参数），并对其进行基于 token 级别的性能评估和使用 AST 解析的语法有效性评估。虽然模型收敛顺利，实现了高语法正确性，但在精确匹配评估下未能生成正确的修复，实现了零精确匹配。在约 80% 的情况下，模型会逐字复述输入的错误代码。
引用
@article{arxiv.2512.22216,
title = {Syntax Is Not Enough: An Empirical Study of Small Transformer Models for Neural Code Repair},
author = {Shaunak Samant},
journal= {arXiv preprint arXiv:2512.22216},
year = {2025}
}