HyperEdit: 通过超网络解锁 LLM 中的指令式文本编辑
计算与语言
2025-12-16 v1 机器学习
摘要
指令式文本编辑对于代码编辑器（如 Cursor）等现实应用日益重要，但大语言模型（LLMs）在该任务上仍然存在困难。与自由生成不同，编辑需要忠实实现用户指令同时保留未修改内容，即使微小的非预期修改也可能破坏功能。现有方法将编辑视为通用文本生成，导致两个关键缺陷：难以忠实对齐多样化用户意图，以及常常过度编辑未修改区域。我们提出 HyperEdit 以解决这两个问题。首先，我们引入基于超网络的动态适配，生成请求特定参数，使模型能够针对每条指令定制编辑策略。其次，我们开发差异感知正则化，将监督聚焦于修改片段，防止过度编辑，同时确保精确、最小的修改。HyperEdit 在修改区域上相比最先进基线实现了 9%–30% 的相对 BLEU 提升，尽管仅使用了 3B 参数。
引用
@article{arxiv.2512.12544,
title = {HyperEdit: Unlocking Instruction-based Text Editing in LLMs via Hypernetworks},
author = {Yiming Zeng and Jinghan Cao and Zexin Li and Wanhao Yu and Zhankai Ye and Dawei Xiang and Ting Hua and Xin Liu and Shangqian Gao and Tingting Yu},
journal= {arXiv preprint arXiv:2512.12544},
year = {2025}
}