小而重要: 面向可访问 AIED 的小型语言模型潜力
计算与语言
2025-05-14 v1 人工智能
计算机与社会
人机交互
摘要
GPT 几乎等同于大型语言模型（LLMs），已成为 AIED 论文中越来越流行的术语。一个简单的关键词搜索揭示了 61% 的 AIED 2024 年提交的 76 篇长短论文描述了新颖的解决方案,用于解决教育领域长期存在的挑战,其中 43% 明确提到 GPT。尽管由 GPT 等 LLM 创建的激动人心的机会,但我们认为该领域对 GPT 和其他资源密集型 LLM（参数超过 100 亿）的主导关注,风险在于忽视小型语言模型（SLMs）在为资源受限机构提供平等且可负担的高质量 AI 工具方所能发挥的潜在影响。我们在知识组件（KC）发现方面取得了积极结果,这一问题是 AIED 的关键挑战之一,表明 SLMs 如 Phi-2 能够在不复杂提示策略的情况下提供有效解决方案。因此,我们呼吁在开发 SLM-based AIED 方法方面给予更多关注。
引用
@article{arxiv.2505.08588,
title = {Small but Significant: On the Promise of Small Language Models for Accessible AIED},
author = {Yumou Wei and Paulo Carvalho and John Stamper},
journal= {arXiv preprint arXiv:2505.08588},
year = {2025}
}
备注
This vision paper advocates using small language models (e.g., Phi-2) in AI for education (AIED)