APE：基于接受准则的选择性微调用于语言模型自适应
计算与语言
2025-06-10 v2 人工智能
机器学习
摘要
我们提出了相邻可能探索，这是一种用于自适应大型语言模型的选择性微调方法，它在保持模型稳定性的同时系统地探索参数修改。受进化优化原理启发，APE 通过在小数据子集上进行微调来评估多个候选参数更新，并仅接受那些超过性能阈值的更新。与遵循单一梯度方向的标准微调不同，APE 实施了一种过滤选择过程，可防止破坏稳定性的参数变化，同时实现系统性改进。我们的方法在新闻摘要任务上实现了 33.9\% 的 BLEU 提升和 36.2\% 的困惑度降低，同时使用了最少的计算资源。该方法提供了一个实用的受控模型自适应框架，平衡了性能提升与表征稳定性。
引用
@article{arxiv.2505.19912,
title = {APE: Selective Fine-tuning with Acceptance Criteria for Language Model Adaptation},
author = {Javier Marín},
journal= {arXiv preprint arXiv:2505.19912},
year = {2025}
}