零到强：无需金标迭代引导大语言模型的强大能力
计算与语言
2024-09-20 v1 机器学习
摘要
大型语言模型（LLM）通过监督微调或使用金标的零样例学习已展现出卓越的性能。然而，这一范式受限于金标的可用性，而在某些场景下，LLM 可能需要执行人类难以提供此类金标的复杂任务。为应对这一挑战，本研究探索仅利用无标签数据是否能够激发强大的模型能力。我们提出了一种新的范式，称为零到强 generalization。我们迭代性地引导 LLM 为无标签数据标注，并通过过滤保留高质量标签。意外地，我们观察到，这一迭代过程逐渐释放了 LLM 在下游任务上的潜能。我们在大量分类和推理任务上的实验确认了所提框架的有效性。我们的分析表明，这一范式对 both zero-shot learning 和 fine-tuning 都有效，并且适用于 various model sizes。
引用
@article{arxiv.2409.12425,
title = {Zero-to-Strong Generalization: Eliciting Strong Capabilities of Large Language Models Iteratively without Gold Labels},
author = {Chaoqun Liu and Qin Chao and Wenxuan Zhang and Xiaobao Wu and Boyang Li and Anh Tuan Luu and Lidong Bing},
journal= {arXiv preprint arXiv:2409.12425},
year = {2024}
}
备注
15 pages