主动标签纠正能否改进基于LLM的模块化AI系统？

模块化AI系统可以使用基于LLM提示的模块来开发，即使对于复杂任务也能最小化部署时间。然而，这些系统并不总是表现良好，并且利用部署过程中收集的数据痕迹来改进它们仍然是一个开放的挑战。数据痕迹包含LLM的输入和输出，但来自LLM的标注存在噪声。我们假设，可以对收集到的数据使用主动标签纠正（ALC）来训练更小的、特定任务的改进模型，以取代基于LLM的模块。在本文中，我们研究了三个GPT-3.5标注数据集中的噪声及其通过人类反馈的去噪过程。我们还提出了一种新颖的方法ALC3，它迭代地对训练数据集应用三种更新：自动纠正、使用人类反馈纠正和过滤。我们的结果表明，在三个不同的NLP任务中，ALC3可以在比数据集中噪声样本数量少17-24%的样本上通过反馈达到oracle性能。