中文

TATRA:通过重述与聚合实现无训练实例自适应提示

计算与语言 2026-03-05 v1 人工智能

摘要

大语言模型(LLM)在对齐方面取得了显著进步,但其行为对提示措辞高度敏感。这一脆弱性推动了自动化提示工程,但大多数现有方法(i)需要任务特定的训练集,(ii)依赖高昂的迭代优化生成单个数据集层面的提示,(iii)必须为每个新任务重新运行。我们引入 TATRA,一种无数据集的提示方法,通过即时合成示例来构建实例特定的 few-shot 提示,搭配用户提供的指令。TATRA 无需标记训练数据,避免任务特定的优化循环,同时保留基于演示的提示优势。在标准文本分类基准上,TATRA 与强大的提示优化基线相当或更好,后者依赖训练数据和大规模搜索。在数学推理基准上,TATRA 实现了 GSM8K 和 DeepMath 的最佳性能,超越了在这些任务上显式优化提示的方法。我们的结果表明,按实例构建有效的上下文示例比运行长期、昂贵的优化循环以单个任务为单位生成提示更为关键。我们将在论文接受后公开所有代码。代码已发布于 https://github.com/BMD223/TATRA

关键词

引用

@article{arxiv.2603.03298,
  title  = {TATRA: Training-Free Instance-Adaptive Prompting Through Rephrasing and Aggregation},
  author = {Bartosz Dziuba and Kacper Kuchta and Paweł Batorski and Przemysław Spurek and Paul Swoboda},
  journal= {arXiv preprint arXiv:2603.03298},
  year   = {2026}
}