论生成式语言模型无意自我强化学习对语言偏见的放大——一种视角
计算与语言
2023-06-13 v1 人工智能
摘要
生成式语言模型（GLMs）因在各种数字应用中的广泛运用，有潜力显著塑造我们的语言景观。然而，这种广泛采用可能无意中触发自我强化学习循环，从而放大既有的语言偏见。本文探讨此类现象的可能性：GLMs 中初始的偏见反映在其生成的文本中，可渗入后续模型的学习材料，从而强化并放大这些偏见。此外，本文强调 GLMs 的泛在性可能影响未来世代的语言与认知发展，因为他们可能无意识地学习并复现这些偏见。这种潜在自我强化循环的影响超越模型本身，波及人类语言与话语。本文权衡了此种偏见放大的利弊，将教育益处与未来 GLM 学习的便利性，与对语言多样性的威胁及对初始 GLMs 的依赖相对照。本文强调亟需严谨研究以理解并应对这些问题。它倡导改进模型透明度、偏见感知训练技术、开发区分人类与 GLM 生成文本的方法，以及 GLMs 中公平性与偏见评估的稳健措施。旨在确保这些强大技术的有效、安全与公平使用，同时维护人类语言的丰富性与多样性。
引用
@article{arxiv.2306.07135,
title = {On the Amplification of Linguistic Bias through Unintentional Self-reinforcement Learning by Generative Language Models -- A Perspective},
author = {Minhyeok Lee},
journal= {arXiv preprint arXiv:2306.07135},
year = {2023}
}