中文

AI 代理实际上改变了什么?——性能提升型 Pull Request 中突变模式的经验分类

软件工程 2026-07-06 v1 人工智能

摘要

AI 编码代理是黑盒:我们无法检查它们如何生成代码,但可以检查它们改变了什么。这种区分对于基于搜索的软件工程(SBSE)很重要,其中遗传改进(我们研究的性能优化应用)依赖于反映代码实际转换方式的突变操作符。在 33,596 个 AIDev-pop 目标性能代理 PR 中,少于 1% 的案例是罕见的,揭示了之前不可见的代理行为。我们使用 Even-Mendoza 等(2025)的 18 类别语法突变分类法,将 1,254 个性能相关差异块从 216 个 PR 中分类,对比五个代理系统。三个类别占主导:名称修改(37.0%)、对象创建(26.4%)和类型更改(22.7%),这与先前 GI 语料库形成鲜明对比,其中没有变化占 84%。每个代理的部署系统都承诺了一个独特的突变词汇,每个性能策略激活了一个大致不相交的类别子集。因此,代理身份和目标策略是有用的先验,可以缩小有效的 SBSE 操作符空间。复制包:https://github.com/5uper6rain/ssbse-challenge-2026

关键词

引用

@article{arxiv.2607.05666,
  title  = {What Do AI Agents Actually Change? An Empirical Taxonomy of Mutation Patterns in Performance-Improving Pull Requests},
  author = {Illia Dovhoshliubnyi and Nima Soroush and Ashkan Sami and Alexander Brownlee},
  journal= {arXiv preprint arXiv:2607.05666},
  year   = {2026}
}