中文

人民之声,ChatGPT 之声:大语言模型、教育与民主

计算机与社会 2023-11-13 v1

摘要

在生成式 AI 特别是以大语言模型(LLM)为代表的 ChatGPT 时代,人工智能与人类推理的交汇已成为全球关注的焦点。与传统的搜索引擎不同,LLM 超越了单纯的信息检索,进入了话语文化的领域。其输出模仿经过深思熟虑的独立观点或事实陈述,呈现出一种智慧的假象。本文探讨了 LLM 对民主社会的潜在变革性影响。它深入研究了难以区分 ChatGPT 生成的文本与人类输出这一担忧。讨论强调了作者身份的本质,其根植于人类独有的推理能力——这一品质对于民主话语和自由社会内的成功协作不可或缺。本文突出了对民主的潜在威胁,提出了三个论点:替代论点、真实性论点和事实论点。这些论点强调了与过度依赖 LLM 相关的潜在风险。核心论点认为,若不加以正确理解和主动妥善应对,LLM 的广泛部署可能会对民主的结构产生不利影响。在提出解决方案时,我们主张将重点放在教育上,作为降低风险的手段。我们建议培养儿童的思维能力,促进连贯思想的表述,并区分机器生成的输出与真实的即人类的推理。重点应放在 LLM 的负责任开发和使用上,目标是增强而非替代人类在思考、审议和决策方面的能力。

关键词

引用

@article{arxiv.2311.06207,
  title  = {Vox Populi, Vox ChatGPT: Large Language Models, Education and Democracy},
  author = {Niina Zuber and Jan Gogoll},
  journal= {arXiv preprint arXiv:2311.06207},
  year   = {2023}
}