中文

忒修斯之船:LLM 生成文本中改写的奇异案例

计算与语言 2024-06-10 v2

摘要

在文本操控与语言转换领域,作者身份问题一直是引人入胜且具哲学探究性的主题。正如忒修斯之船悖论所思:当一艘船的每块原木板都被替换后,它是否仍是同一艘船;我们的研究深入探讨一个有趣的问题:一段文本在经历多次改写迭代后,是否仍保留其原始作者身份?具体而言,由于大语言模型(LLMs)在生成原创内容与修改人工撰写文本方面均展现出卓越能力,一个关键问题随之浮现——当使用 LLM 或类似改写工具对文本进行重述时,作者身份应如何判定,即应归属于原始人类作者还是 AI 驱动的工具。因此,我们开启一场穿越语言与作者身份之海的哲学航程,以解开这一复杂谜题。借助计算方法,我们发现文本分类模型性能随每次连续改写迭代而下降,这与偏离原作者风格的程度密切相关,从而促使对当前作者身份观念的重新审视。

关键词

引用

@article{arxiv.2311.08374,
  title  = {A Ship of Theseus: Curious Cases of Paraphrasing in LLM-Generated Texts},
  author = {Nafis Irtiza Tripto and Saranya Venkatraman and Dominik Macko and Robert Moro and Ivan Srba and Adaku Uchendu and Thai Le and Dongwon Lee},
  journal= {arXiv preprint arXiv:2311.08374},
  year   = {2024}
}

备注

To appear in Association for Computational Linguistics (ACL 2024)