从表层输出到表层学习：教育中大型语言模型的风险
计算机与社会
2025-11-04 v2 人工智能
摘要
大型语言模型（LLM）正在通过实现个性化、反馈和知识获取来变革教育，同时也引发了关于对学生和学习系统风险的担忧。然而，关于这些风险的实证证据仍然零散。本文对计算机科学、教育学和心理学领域的 70 项实证研究进行了系统综述。在四个研究问题的指导下，我们考察了： LLM 在教育中的哪些应用被最频繁地探索； 研究人员如何衡量其影响； 此类应用带来了哪些风险； 提出了哪些缓解策略。我们发现关于 LLM 的研究集中在三个领域：运营有效性、个性化应用和交互式学习工具。在这些领域中，模型层面的风险包括表层理解、偏见、有限的鲁棒性、拟人化、幻觉、隐私问题和知识限制。当学习者与 LLM 交互时，这些风险延伸到认知和行为结果，包括神经活动减少、过度依赖、独立学习技能下降以及学生主体性的丧失。为了捕捉这一演变过程，我们提出了一个 LLM 风险适配学习模型，说明了技术风险如何通过交互和解释级联从而塑造教育结果。作为对已评估风险的首次综合，本综述为在教育中负责任地、以人为本地整合 LLM 奠定了基础。
引用
@article{arxiv.2509.21972,
title = {From Superficial Outputs to Superficial Learning: Risks of Large Language Models in Education},
author = {Iris Delikoura and Yi. R Fung and Pan Hui},
journal= {arXiv preprint arXiv:2509.21972},
year = {2025}
}