PAFT：面向最小编辑程序修复的保留感知微调
计算机视觉与模式识别
2026-04-06 v1 人工智能
摘要
大语言模型（LLMs）在自动程序修复中表现有效，但能通过完整测试集的合理补丁往往重写过多代码，增加了审查和维护成本。这种过度编辑很常见，因为大多数错误是局部的，而标准监督微调未提供关于哪些标记应保留、哪些应修改的显式信号。我们提出 PAFT，一种面向最小编辑程序修复的保留感知微调方法。PAFT 通过对齐有错代码与修复后代码推导标记级保留信号，将其与全序列掩码相结合，并应用编辑难度课程。在 Defects4J 和 HumanEval-Java 上，PAFT 相比标准监督微调（StdFT）将 pass@1 最高提升 65.6%，同时将平均编辑距离（AED）降低最多 32.6%。在 Defects4J 上使用 DeepSeek-Coder-6.7B 时，PAFT 也优于强基于偏好的修复基线 AdaPatcher，将 pass@1 从 5.9% 提升至 10.1%，同时将中位 AED 从 61.0 降至 42.0。总体而言，PAFT 保留了稳定的上下文并将编辑集中在错误区域，生成更小、更局部、更合理的补丁，且无需推理时搜索、重排序或后处理。
引用
@article{arxiv.2604.03114,
title = {Can VLMs Truly Forget? Benchmarking Training-Free Visual Concept Unlearning},
author = {Zhangyun Tan and Zeliang Zhang and Susan Liang and Yolo Yunlong Tang and Lisha Chen and Chenliang Xu},
journal= {arXiv preprint arXiv:2604.03114},
year = {2026}
}