基于思维链属性操控的可控少样本文本挖掘数据增强
计算与语言
2024-05-24 v3
摘要
提示大型语言模型（LLMs）进行数据增强近来已成为少样本 NLP 任务中的常见做法。本文中，我们提出思维链属性操控（CoTAM），一种通过对用户提供的任务特定属性（例如电影评论中的情感极性或主题）仅作调整，从已有样例生成新数据的新方法。与传统的隐表示控制不同，我们利用思维链提示分三步直接编辑文本：（1）属性分解，（2）操控提议，以及（3）句子重构。在文本（对）分类、基于方面的情感分析和条件文本生成等多种任务上的广泛结果表明，在微调与上下文学习下使用相同数量训练样例时，CoTAM 优于其他基于 LLM 的增强方法。值得注意的是，使用主成分分析对增强数据集的二维可视化揭示了一条可由属性操控暗示的、人类可识别的决策边界，展示了我们所提方法的潜力。
引用
@article{arxiv.2307.07099,
title = {Controllable Data Augmentation for Few-Shot Text Mining with Chain-of-Thought Attribute Manipulation},
author = {Letian Peng and Yuwei Zhang and Jingbo Shang},
journal= {arXiv preprint arXiv:2307.07099},
year = {2024}
}