面向少样本对话情绪识别的高效跨任务提示微调
计算与语言
2023-10-24 v1
摘要
对话情绪识别（ERC）因其在开发具备情绪感知的共情机器中的重要性而被广泛研究。预训练语言模型（PLM）的兴起进一步推动了 ERC 性能的极限。然而，近期使用 PLM 的 ERC 工作大多严重依赖数据驱动，且需要对整个 PLM 进行微调。为同时提升样本效率与计算效率，我们提出一种名为跨任务提示微调（CTPT）的无导数优化方法，用于少样本对话情绪识别。不同于从独立任务中学习孤立知识的现有方法，CTPT 通过利用来自其他源任务的外部知识来挖掘可共享的跨任务知识，从而在少样本设定下改善学习效果。此外，CTPT 仅需在低本征维度下无梯度地优化一个向量，与现有方法相比参数效率极高。在五个不同上下文对话数据集上的实验表明，我们的 CTPT 方法在少样本场景与零样本迁移上均取得优越结果。
引用
@article{arxiv.2310.14614,
title = {Efficient Cross-Task Prompt Tuning for Few-Shot Conversational Emotion Recognition},
author = {Yige Xu and Zhiwei Zeng and Zhiqi Shen},
journal= {arXiv preprint arXiv:2310.14614},
year = {2023}
}
备注
Findings of EMNLP 2023