面向信息伪装的有效改写方法
信息检索
2023-11-10 v1 人工智能
摘要
信息伪装（ID）是自然语言处理（NLP）中计算伦理的一部分，关注文本改写的最佳实践，以防止互联网上非经同意地使用作者的帖子。当作者所写的在线交流涉及敏感领域（例如心理健康）时，关于 ID 的研究变得重要。长期以来，研究者利用基于 AI 的自动措辞改写工具（如 SpinRewriter、WordAI）来改写内容。然而，这些工具无法满足 ID 的目的，因为其改写后的内容在搜索引擎上查询时仍会指向来源。先前关于在搜索引擎或其代理——神经检索（NeurIR）模型上判断 ID 改写方法有效性的工作十分有限。我们提出一个框架：对于给定的作者帖子中的句子，我们沿改写方向对句子进行迭代扰动，试图在该句子被查询时混淆 NeurIR 系统的搜索机制。我们的实验以 subreddit“r/AmItheAsshole”作为公开内容来源，并以 Dense Passage Retriever 作为基于 NeurIR 系统的搜索引擎代理。我们的工作引入了一种利用困惑度分数进行短语重要性排序的新方法，并通过集束搜索实现多级短语替换。我们的多短语替换方案在 82% 的情况下成功伪装了句子，从而朝着使研究者能在公开敏感内容前有效伪装的方向迈出了关键一步。我们也发布了我们方法的代码。
引用
@article{arxiv.2311.05018,
title = {Towards Effective Paraphrasing for Information Disguise},
author = {Anmol Agarwal and Shrey Gupta and Vamshi Bonagiri and Manas Gaur and Joseph Reagle and Ponnurangam Kumaraguru},
journal= {arXiv preprint arXiv:2311.05018},
year = {2023}
}
备注
Accepted at ECIR 2023