复杂大语言模型的隐患（与优势）
计算机与社会
2023-03-31 v1 人工智能
计算与语言
摘要
基于大语言模型（LLM）的自然语言处理是人工智能研究中一个蓬勃发展的领域。在神经网络已被证明在基于模式识别的游戏和实际应用领域超越人类之后，我们此刻或许正站在一个十字路口，人工实体可能最终进入人类交流的领域。然而，这伴随着严重风险。由于神经网络在可靠性方面存在固有局限，对 LLM 的过度依赖可能产生破坏性后果。由于区分人类撰写文本与机器生成文本将愈发困难，人们面临新的伦理挑战。这始于不再能无疑地验证人类作者身份，并延续至各类欺诈，例如一种新形式的剽窃。这也涉及侵犯隐私权、伪造人类替身的可能性，且最后但同样重要的是，它使错误信息的大规模传播成为可能。
引用
@article{arxiv.2303.17511,
title = {On pitfalls (and advantages) of sophisticated large language models},
author = {Anna Strasser},
journal= {arXiv preprint arXiv:2303.17511},
year = {2023}
}