MetricPrompt：将提示模型作为相关性度量用于少样本文本分类
计算与语言
2023-06-16 v1
摘要
提示方法在多种文本挖掘任务与应用中展现出令人印象深刻的性能，尤其是少样本场景。尽管前景广阔，提示模型的性能在很大程度上依赖于提示模板与 verbalizer 的设计。本工作中，我们提出MetricPrompt，通过将少样本文本分类任务重构为文本对相关性估计任务，缓解了 verbalizer 设计难度。MetricPrompt采用提示模型作为相关性度量，进一步弥合了预训练语言模型（PLM）的预训练目标与文本分类任务之间的差距，使PLM的平滑适配成为可能。MetricPrompt同时接收一个训练样本与一个查询样本，捕获跨样本相关性信息以进行准确的相关性估计。我们在三个广泛使用的文本分类数据集上的四种少样本设置下进行了实验。结果表明，MetricPrompt在所有少样本设置下均优于人工 verbalizer 与其他自动 verbalizer 设计方法，取得了新的最先进（SOTA）性能。
引用
@article{arxiv.2306.08892,
title = {MetricPrompt: Prompting Model as a Relevance Metric for Few-shot Text Classification},
author = {Hongyuan Dong and Weinan Zhang and Wanxiang Che},
journal= {arXiv preprint arXiv:2306.08892},
year = {2023}
}
备注
Accepted at KDD 2023