当正确的示教反而有害：重新思考示教样本在零样本学习中的作用
机器学习
2026-05-27 v1 人工智能
摘要
零样本学习（ICL）常以示教样本提供正确的输入输出示例有助于学习的直觉为依据。然而，我们揭示了一个反直觉现象：正确性并不保证示教样本的实用性，一些正确的示教样本甚至可能降低零样本学习的准确率。为研究这种正确性-实用性之间的差距，我们引入任务保持扰动，其中仅更改示教样本的输入，而该示例仍然是同一任务的正确实例。具体而言，每个扰动后的示教样本被分配由任务映射产生的目标。这一框架涵盖了标签更新扰动，其中任务相关语义发生变化且目标被重新计算，以及更严格的目标保持扰动，其中原始目标仍然有效。我们将结果产生的失效模式形式化为情境证据偏移：任务保持扰动可以改变模型用于情境推断的有效证据混合，从而将示教样本的正确性与实用性分离。在情感分类、逻辑推理和数学 word 问题中，我们发现任务保持扰动的示教样本可以在尤其是较小模型、更难任务和更高扰动比例的情况下显著降低零样本学习性能。我们的结果表明，健全的零样本学习需要不仅检查示教样本是否正确，还要检查它们如何影响情境推断。代码已公开于 https://github.com/Chenghao-Qiu/Task-Preserving-ICL。
引用
@article{arxiv.2605.26350,
title = {When Correct Demonstrations Hurt: Rethinking the Role of Exemplars in In-Context Learning},
author = {Chenghao Qiu and Chunli Peng and Yufeng Yang and Kuan-Hao Huang and Yi Zhou},
journal= {arXiv preprint arXiv:2605.26350},
year = {2026}
}