LLM 可通过超参数感知生成实现自调节
计算与语言
2024-02-20 v1
摘要
在大语言模型 (LLM) 领域，用户通常采用多样的解码策略并调整超参数来控制生成的文本。然而，一个关键问题随之出现：LLM 是否意识到这些解码策略的存在并有能力进行自我调节？当前的解码生成过程通常依赖于基于任务类型和需求的经验性及启发式手动超参数调整。然而，这一过程通常繁琐，且解码超参数可能并不总是对每个样本都是最优的。为解决上述挑战，我们提出了一种名为超参数感知生成 (Hyperparameter Aware Generation, HAG) 的新型文本生成范式。通过利用超参数感知指令微调，LLM 能够根据输入样本自主确定最优解码策略和配置，从而实现自调节。我们的方法消除了广泛手动调优的需求，提供了更自主、自调节的模型行为。跨越推理、创造力、翻译和数学任务六个数据集的实验结果表明，超参数感知指令微调使 LLM 能够自调节解码策略和超参数。HAG 扩展了当前文本生成过程中的范式，突出了赋予 LLM 自调节解码策略的可行性。
引用
@article{arxiv.2402.11251,
title = {LLM can Achieve Self-Regulation via Hyperparameter Aware Generation},
author = {Siyin Wang and Shimin Li and Tianxiang Sun and Jinlan Fu and Qinyuan Cheng and Jiasheng Ye and Junjie Ye and Xipeng Qiu and Xuanjing Huang},
journal= {arXiv preprint arXiv:2402.11251},
year = {2024}
}