学习语言模型的错误模式
机器学习
2026-05-28 v1 人工智能
摘要
当语言模型为具有特定有效约束的领域（如程序应可编译）生成输出时，往往会以少数聚焦方式失败：例如，使用 Python 函数名来生成 TypeScript。我们观察到，这些错误模式可通过少量约束来表示，而这在实践中可被学习。我们提出\emph{前缀过滤器}（prefix filters），作为捕获特定领域和特定语言模型错误模式的符号函数，Palla 作为一种高效学习前缀过滤器的算法，并实现了 Palla。通过 Palla 学习的前缀过滤器能够 i) 对语言模型的错误模式进行量化分析，ii) 通过受约束采样算法约束模型输出。例如，Palla 将 Qwen2.5-1.5B 在 TypeScript 生成上的编译通过率提升超过 60%，使其达到与 Llama3.1-8B 无约束下的性能相当。
引用
@article{arxiv.2605.28328,
title = {Learning the Error Patterns of Language Models},
author = {Jinwoo Kim and Taylor Berg-KirkPatrick and Loris D'Antoni},
journal= {arXiv preprint arXiv:2605.28328},
year = {2026}
}