教育讽刺：通过蒸馏到参数高效学生的少样本多模态讽刺检测
计算与语言
2025-10-30 v1
摘要
在资源有限的少样本设置下，多模态讽刺检测具有挑战性，因为稀缺的标注数据使得模型难以学习图像-文本之间的细微矛盾，从而限制了模型性能。参数高效微调(PEFT)方法，如 adapter、LoRA 和 prompt tuning 可减少过拟合，但由于少量数据导致的监督不足，仍难达到最佳性能。我们提出PEKD—a 个统一框架，通过从在大规模讽刺数据上训练的专家模型进行蒸馏来增强PEFT方法，该专家模型充当教师。为缓解教师置信度不确定带来的不可靠信号，我们引入熵感知门控机制，动态调整蒸馏强度。实验在两个公开数据集上表明，我们的PEKD框架使PEFT方法均优于以前的参数高效方法和大型多模态模型，在少样本场景下取得优异成绩。该框架模块化且可适用于广泛的多模态模型和任务。
引用
@article{arxiv.2510.25303,
title = {Teaching Sarcasm: Few-Shot Multimodal Sarcasm Detection via Distillation to a Parameter-Efficient Student},
author = {Soumyadeep Jana and Sanasam Ranbir Singh},
journal= {arXiv preprint arXiv:2510.25303},
year = {2025}
}