中文

基于提示学习的文本可读性评估

计算与语言 2024-06-18 v2 人工智能

摘要

我们提出了一种将预训练seq2seq模型新颖地应用于可读性评估的方法。我们证明seq2seq模型——T5或BART——可以被调整以从两个给定文本(成对)中辨别哪个文本更难。作为一项以文本到文本方式提示学习神经网络用于文本可读性的探索性研究,我们报告了供未来在seq2seq训练和基于排序的可读性评估工作中使用的有用技巧。具体而言,我们测试了九种输入-输出格式/前缀,并表明它们会显著影响最终模型性能。此外,我们认为文本到文本训练与成对排序设置的结合 1) 能够利用多个并行文本简化数据来教授可读性,以及 2) 训练出一个针对可读性通用概念的神经模型(因此具有更好的跨域泛化能力)。最后,我们通过联合训练方法在Newsela上报告了99.6%的成对分类准确率,在OneStopEnglish上报告了98.7%的准确率。

关键词

引用

@article{arxiv.2302.13139,
  title  = {Prompt-based Learning for Text Readability Assessment},
  author = {Bruce W. Lee and Jason Hyung-Jong Lee},
  journal= {arXiv preprint arXiv:2302.13139},
  year   = {2024}
}

备注

EACL 2023