ICLEF：融合专家反馈的上下文学习用于可解释风格迁移

尽管最先进的大语言模型（LLMs）擅长将文本从一种风格适配到另一种风格，当前工作尚未解决风格迁移模型的可解释性问题。近期研究探索了从较大教师模型生成文本解释并将其蒸馏至较小学生模型。此类方法的一个挑战在于 LLM 输出可能含需专业知识纠正的错误，但因成本与可及性，收集并整合专家反馈十分困难。为应对该挑战，我们提出 ICLEF，一种新颖的人机协作模型蒸馏方法，通过结合上下文学习与模型自我批判来纳入稀缺的专家人类反馈。我们表明，我们的方法可生成高质量的合成可解释风格迁移数据集：正式性（e-GYAFC）与主观偏见（e-WNC）。通过自动与人工评估，我们显示在我们的数据集上微调的专用学生模型在一次性设置下的可解释风格迁移任务中优于通用教师模型，且与少样本教师模型相比具竞争力，突显了数据质量与专家反馈的作用。在作者归属的外在任务中，我们显示由在 e-GYAFC 上微调的较小模型生成的解释比少样本教师模型生成的解释更具作者预测性。