DiffuDetox：一种用于文本解毒的混合扩散模型

文本解毒是一项条件文本生成任务，旨在从有毒文本中去除攻击性内容。它对在线论坛和社交媒体极为有用，因为这些地方经常遇到攻击性内容。直观上，在保留语义的同时解毒句子有多种方式，我们可以在向用户展示文本前从解毒后的句子中进行选择。条件扩散模型特别适合该任务，因为相较于现有的基于语言模型的条件文本生成模型，它们展现出更高的生成多样性。然而，当训练数据不足时（本任务正是如此），其文本流畅性会下降。在本工作中，我们提出 DiffuDetox，一种用于文本解毒的混合条件与无条件扩散模型。条件模型以有毒文本为条件并降低其毒性，产生一组多样的解毒句子。无条件模型被训练来恢复输入文本，从而允许引入额外的流畅文本用于训练，进而确保文本流畅性。大量实验结果和深入分析证明了我们提出的 DiffuDetox 的有效性。