神经符号LoRA：何时调整权重与重写提示词
人工智能
2026-01-21 v1 机器学习
符号计算
摘要
大型语言模型(LLM)可以通过改变模型参数的数值更新，或作用于离散提示词或逻辑约束的符号操作来进行适配。虽然数值微调擅长注入新的事实知识，但符号更新无需重新训练即可提供对风格和对齐的灵活控制。我们引入了一个神经符号LoRA框架，该框架动态结合了这两种互补策略。具体来说，我们提出了一个统一的监控信号和一个基于奖励的分类器，以决定何时使用LoRA进行更深层次的事实重建，以及何时应用TextGrad进行词元级别的编辑。我们的方法通过仅在需要时将符号转换卸载到外部LLM，保持了内存效率。此外，在符号编辑过程中产生的精炼提示词可作为高质量、可复用的训练数据，这在数学推理等数据稀缺领域是一个重要的优势。在多个LLM骨干网络上进行的大量实验表明，神经符号LoRA始终优于纯数值或纯符号基线，展现出卓越的适应性和改进的性能。我们的研究结果强调了交错进行数值和符号更新的价值，以解锁语言模型微调中新的多功能性水平。
引用
@article{arxiv.2601.12711,
title = {Neurosymbolic LoRA: Why and When to Tune Weights vs. Rewrite Prompts},
author = {Kevin Wang and Neel P. Bhatt and Cong Liu and Junbo Li and Runjin Chen and Yihan Xi and Timothy Barclay and Alvaro Velasquez and Ufuk Topcu and Zhangyang Wang},
journal= {arXiv preprint arXiv:2601.12711},
year = {2026}
}