LLM 背景增强学习的力量

Xingyu Zhu; Abhishek Panigrahi; Sanjeev Arora

LLM 背景增强学习的力量

机器学习 2025-06-06 v2

作者: Xingyu Zhu , Abhishek Panigrahi , Sanjeev Arora

摘要

我们正式定义了 LLM 的一种新概念：背景增强学习。它涉及对文本进行标准的基于梯度的学习，唯一区别是背景数据不计算自回归梯度。此设置是常规 in-context learning (ICL) 的梯度形式，近期一些研究中均出现。我们使用一个多步骤推理任务，在简化设置下证明，当模型具备 ICL 能力时，背景增强学习相较于标准学习在样本效率上可实现指数级提升。从机制层面，我们发现背景增强的收益源于更精确的梯度学习信号。我们还通过实验表明，难以检测或恢复在训练期间用于背景的学习材料。这可能对数据安全以及版权问题产生影响。

关键词

in-context learning 基于梯度的学习样本效率注意力数据安全

引用

@article{arxiv.2503.01821,
  title  = {On the Power of Context-Enhanced Learning in LLMs},
  author = {Xingyu Zhu and Abhishek Panigrahi and Sanjeev Arora},
  journal= {arXiv preprint arXiv:2503.01821},
  year   = {2025}
}

备注

77 pages, 18 figures; ICML 2025 Main Conference

LLM 背景增强学习的力量

摘要

关键词

引用

备注

相关论文