通过推理时技术实现精细调优变压器能力

Asankhaya Sharma

通过推理时技术实现精细调优变压器能力

机器学习 2025-06-11 v1 人工智能

作者: Asankhaya Sharma

摘要

大型语言模型已彻底变革自然语言处理, 但监督微调(SFT)仍计算密集.本文在理想化假设下(包括无限计算资源和获取微调数据集)形式化证明, 通过推理时技术(具体为零样本学习ICL)可近似实现SFT获取的能力, 无需修改模型参数.我们将这些结果扩展到实际场景, 考虑有限上下文长度和部分数据集访问.对于固定输出长度为l的文本生成任务, 数据集规模为O(mV/ε² log(m/δ))或在受限上下文下为O(l log V/ε² log(1/δ))即可在m个上下文环境中以误差ε近似微调行为,其中V为词汇表大小,δ为失败概率.对于线性分类, 数据集规模为O(d/ε)或在固定上下文下为O(1/ε² log(1/δ))足以实现.基于变压器图灵完备性, 这些结果为资源高效部署大型语言模型提供了理论基础, 实际技术如检索增强生成(RAG)正在将理论与实际应用相结合.

关键词

变压器零样本学习监督微调图灵完备性推理时优化

引用

@article{arxiv.2506.08060,
  title  = {Eliciting Fine-Tuned Transformer Capabilities via Inference-Time Techniques},
  author = {Asankhaya Sharma},
  journal= {arXiv preprint arXiv:2506.08060},
  year   = {2025}
}

通过推理时技术实现精细调优变压器能力

摘要

关键词

引用

相关论文