作者身份与大语言模型水印的政治与伦理

近期，人们提出了针对大语言模型（LLM）的水印方案，以区分机器生成的文本和人类生成的文本。本文探讨了实施和使用水印方案的哲学、政治和伦理后果。本文提出了一种包含机器（LLM）和人类的作者身份定义，以此作为背景。文章认为，私有水印可能赋予私营公司决定作者身份的广泛权利，这与传统的作者身份判定标准不相容。随后，探讨了所谓水印机制熵依赖性的可能后果。文章认为，熵可能因不同的社会显著群体而异。这可能导致机器生成文本的检测率依赖于群体。具体而言，更关注低熵文本的群体可能面临这样的挑战：检测他们感兴趣的机器生成文本更加困难。