SeCoKD：通过更少的样本对齐大语言模型以进行情境学习
人工智能
2024-09-27 v2
摘要
先前的研究表明，演示对大语言模型（LLM）在给定任务上的性能具有显著帮助。然而，这种所谓的情境学习（ICL）能力对呈现的上下文极其敏感，往往需要数十个演示。本文探讨了在保持竞争性能的同时如何减少样本数量。我们提出了SeCoKD，即一种自我知识蒸馏（KD）训练框架，通过对齐带有大量提示的学生模型，从而提高单个演示的利用率。我们在三个大语言模型和六个基准测试上实验，主要关注推理任务。结果表明，我们的方法在零样本和一样本设置下分别比基线模型和监督微调（SFT）提升了30%和10%。此外，SeCoKD在评估新任务时几乎不会引入负面副作用，这比监督微调更具鲁棒性。
引用
@article{arxiv.2406.14208,
title = {SeCoKD: Aligning Large Language Models for In-Context Learning with Fewer Shots},
author = {Weixing Wang and Haojin Yang and Christoph Meinel},
journal= {arXiv preprint arXiv:2406.14208},
year = {2024}
}
备注
preprint