从Logits推断：探索无解码生成式候选选择的最佳实践
计算与语言
2025-01-30 v1 人工智能
机器学习
摘要
生成式语言模型依赖于自回归解码逐词生成输出序列。许多任务（如偏好优化）需要模型直接从候选池中选择多个标记的任务级输出作为预测。使用普通的标记级解码机制确定由候选选择得到的任务级预测受制于耗时的解码和离散标记选择导致的梯度中断。现有工作正在使用解码自由的候选选择方法从初始输出logits中获取候选概率。尽管这些估计方法广泛使用，但在实际任务上尚未进行系统评估。我们对无解码候选选择方法的全面集合进行了评估，包括五个多选问答任务（小型候选池）和四个临床决策任务（大量候选，部分达到1万+选项）。我们评估了配合广泛的基础语言模型，包括不同架构、规模和训练范式的模型。我们的结果和见解为未来的模型设计提供了指导。
引用
@article{arxiv.2501.17338,
title = {Inferring from Logits: Exploring Best Practices for Decoding-Free Generative Candidate Selection},
author = {Mingyu Derek Ma and Yanna Ding and Zijie Huang and Jianxi Gao and Yizhou Sun and Wei Wang},
journal= {arXiv preprint arXiv:2501.17338},
year = {2025}
}