中文

Gabliteration:用于大型语言模型中选择性行为改变的自适应多方向神经权重修改

人工智能 2026-01-29 v3 机器学习

摘要

我们提出Gabliteration,这是一种新型神经权重修改技术,超越传统ablation方法,实现自适应多方向投影并结合正则化图层选择。我们的方法解决了现有方法在尝试修改特定行为模式时却损害模型质量的根本局限。通过动态图层优化、正则化投影矩阵和自适应缩放机制,我们实现了在最小化无关领域质量损失的同时进行理论上更优的权重修改。我们通过在Hugging Face上提供的gabliterated-v1模型系列(0.6B至4B参数)进行了验证,展示了该方法在多个模型规模上的实际适用性。

关键词

引用

@article{arxiv.2512.18901,
  title  = {Gabliteration: Adaptive Multi-Directional Neural Weight Modification for Selective Behavioral Alteration in Large Language Models},
  author = {Gökdeniz Gülmez},
  journal= {arXiv preprint arXiv:2512.18901},
  year   = {2026}
}