教育中AI基础模型的风险
计算机与社会
2021-10-20 v1 人工智能
摘要
如果最近一份关于“基础模型”机遇与风险的斯坦福报告（Bommasani等人，2021）的作者可信，那么这些模型代表了AI及其 supposedly 将应用的领域（包括教育）的范式转变。尽管名称较新（且存在争议（Field，2021）），该术语描述的是“在广泛数据上大规模训练”并“微调”（即适配）于特定下游任务的现有算法模型类型，旨在涵盖诸如BERT或GPT-3之类的大语言模型（LLM）以及诸如CLIP之类的计算机视觉模型。此类技术广义上具有危害潜力（例如Bender等人，2021），但尽管作者声称其对学习者有潜在益处，它们在教育领域中的使用尤其令人担忧。在斯坦福报告第3.3节中，Malik等人主张，实现为所有学习者提供教育的目标需要更高效的计算方法，能够跨教育领域与教育情境快速扩展，并认为基础模型 uniquely 非常适合此目的。然而，证据表明，基础模型不仅不太可能实现所述对学习者的益处，其使用还可能引入新的危害风险。
引用
@article{arxiv.2110.10024,
title = {Risks of AI Foundation Models in Education},
author = {Su Lin Blodgett and Michael Madaio},
journal= {arXiv preprint arXiv:2110.10024},
year = {2021}
}