海量却空洞？大语言模型时代的语义资本
计算机与社会
2023-06-06 v1
摘要
大语言模型 (LLMs) 已成为自然语言处理领域中的变革性力量，拥有生成类人文本的能力。然而，尽管它们在内容创作方面具有潜力，却也带来侵蚀我们的语义资本 (Semantic Capital, SC)——即我们数字生态系统中的集体知识——的风险，从而带来多样的社会认识论挑战。本文探讨这些模型的演进、能力与局限，同时强调其引发的伦理关切。研究的贡献有二：首先，我们承认，在应对追踪与控制 LLM 影响的挑战时，有必要重新思考我们与这些 AI 技术以及形成公众对其认知的叙事之间的互动。我们认为，在达成该目标之前，必须直面日益由 AI 驱动的信息圈中一个潜在的义务论临界点。这超越 merely 遵守 AI 伦理规范或法规，而需要理解 LLM 可能给我们的集体 SC 带来的社会认识论风险谱系。其次，基于 Luciano Floridi 的 SC 风险分类法，将这些风险映射于 LLM 的功能与约束之中。通过此视角，我们旨在保护并丰富我们的 SC，同时培育人与 AI 之间增强而非取代人类智能的协作环境。
引用
@article{arxiv.2306.01773,
title = {Voluminous yet Vacuous? Semantic Capital in an Age of Large Language Models},
author = {Luca Nannini},
journal= {arXiv preprint arXiv:2306.01773},
year = {2023}
}