机器生成语言中水印的伦理需求
计算与语言
2022-09-08 v1 计算机与社会
摘要
应在 AI 系统的自然语言输出中引入水印，以维持人类与机器生成文本的区分。不模糊此区分的伦理必要性源于大语言模型（large language models, LLM）的语义缺失性质，以及人类将情感与认知状态投射于机器上，可能导致操纵、传播虚假信息或情绪困扰。强化此区分需要不具侵入性但易获取的机器来源标记。我们提议实现一种基于等距字母序列的编码。人类书写文本中不存在此类编码，而其出现于机器生成文本中将因伦理原因而有益。
引用
@article{arxiv.2209.03118,
title = {The Ethical Need for Watermarks in Machine-Generated Language},
author = {Alexei Grinbaum and Laurynas Adomaitis},
journal= {arXiv preprint arXiv:2209.03118},
year = {2022}
}