链路式元写作:小型语言模型如何为年轻学生撰写文本的语言与文本分析
计算与语言
2024-12-20 v1
摘要
大型语言模型(LLM)已被用于生成针对不同写作任务的文本,如报告、论文和故事创作。然而,语言模型缺乏类似年轻人类学生那样的文本写作过程的元表征,亦缺乏与之对应的沟通学习需求。本文引入对多语言小型语言模型(SLM)写作的细粒度语言与文本分析方法。通过我们的方法,链路式元写作(Chain-of-MetaWriting)使SLM能够模仿人类写作过程的一些步骤,如计划和评估。我们主要关注法语中面向小学生的短篇故事写作和面向大学生的议论文写作。我们的结果表明,SLM在协助年轻学生处理涉及校园暴力等敏感话题时存在困难,并且有时会使用过于复杂的词汇。特别是,输出在文本连贯性和一致性方面与人类所产文本存在显著差异,尤其体现在时间连接词、话题进展和指代方式上。
引用
@article{arxiv.2412.14986,
title = {Chain-of-MetaWriting: Linguistic and Textual Analysis of How Small Language Models Write Young Students Texts},
author = {Ioana Buhnila and Georgeta Cislaru and Amalia Todirascu},
journal= {arXiv preprint arXiv:2412.14986},
year = {2024}
}
备注
Accepted at WRAICOGS 2025 (Writing Aids at the Crossroads of AI, Cognitive Science, and NLP) co-located with COLING 2025