面向零样本情境学习的演示增强方法
计算与语言
2024-06-04 v1
摘要
大型语言模型展现出一种令人印象深刻的能力，即情境学习，使其能够从文本演示中获取知识而无需更新参数。然而，许多研究指出，模型的性能对演示的选择很敏感，这给缺乏用户查询先验知识的实际应用带来了重大挑战。因此，我们需要构建一个庞大的演示池并引入外部数据库来辅助模型，从而导致大量的时间和金钱成本。鉴于此，近期一些研究将焦点转向零样本情境学习，旨在通过利用模型固有的生成能力来减少对外部信息的依赖。尽管这些方法有效，但模型生成的内容可能不可靠，且生成过程耗时。为解决这些问题，我们提出了面向情境学习的演示增强方法，该方法将模型先前预测的历史样本作为后续样本的演示。DAIL 不带来额外的推理成本，也不依赖模型的生成能力。我们的实验表明，与直接的零样本推理相比，DAIL 能显著提升模型性能，甚至可以在没有任何外部信息的情况下超越少样本情境学习。
引用
@article{arxiv.2406.01224,
title = {Demonstration Augmentation for Zero-shot In-context Learning},
author = {Yi Su and Yunpeng Tai and Yixin Ji and Juntao Li and Bowen Yan and Min Zhang},
journal= {arXiv preprint arXiv:2406.01224},
year = {2024}
}
备注
Accepted to ACL 2024 Findings