GPT-DETOX：基于上下文学习的文本去毒改写器
计算与语言
2024-04-05 v1
摘要
有害和具有攻击性的交流或内容会损害社交媒体平台上用户的社会联系和心理健康。文本去毒是自然语言处理（NLP）中的一项关键任务，其目标是在保留文本内容的同时去除其中的亵渎和毒性。监督学习和无监督学习是设计文本去毒解决方案的常用方法。然而，这些方法需要进行微调，从而导致计算开销。在本文中，我们提出 GPT-DETOX，作为一个使用 GPT-3.5 Turbo 进行基于提示的上下文学习文本去毒框架。我们利用零样本和少样本提示技术对输入句子进行去毒。为了生成少样本提示，我们提出了两种方法：词匹配示例选择（WMES）和上下文匹配示例选择（CMES）。我们还考虑了集成上下文学习（EICL），其中集成由零样本和所有少样本设置的基础提示构成。我们使用 ParaDetox 和 APPDIA 作为基准去毒数据集。我们的实验结果表明，零样本解决方案取得了有前景的性能，而我们最佳的少样本设置在 ParaDetox 上优于最先进的模型，并在 APPDIA 上显示出可比的结果。我们的 EICL 解决方案获得了最佳性能，在两个数据集上均实现了至少 10% 的提升。
关键词
引用
@article{arxiv.2404.03052,
title = {GPT-DETOX: An In-Context Learning-Based Paraphraser for Text Detoxification},
author = {Ali Pesaranghader and Nikhil Verma and Manasa Bharadwaj},
journal= {arXiv preprint arXiv:2404.03052},
year = {2024}
}
备注
7 pages, 8 tables. Published in: 2023 International Conference on Machine Learning and Applications (ICMLA)