TF1-EN-3M：用于训练小型开放语言模型的三百万合成道德寓言
计算与语言
2026-05-05 v2 人工智能
数字图书馆
机器学习
摘要
道德故事作为传递价值的经典方式，然而现代自然语言处理领域缺乏大规模结构化语料库来将连贯的叙事与明确的伦理教训相结合。我们提出了 TF1-EN-3M，据称是首个包含三百万英文语言寓言的开放数据集，这些寓言由参数不超过 80 亿的指令调优模型专门生成。每个故事遵循六槽框架（character -> trait -> setting -> conflict -> resolution -> moral），通过组合提示引擎生成，确保体裁忠实同时涵盖广泛的主题空间。完全可复现的评估管道采用来自不同模型家族的开源 LLM 评判员，对语法、创意性、道德清晰度和模板遵循度进行评分，同时配合无参考多样性和可读性指标。对十个开源生成器候选者进行评估，80 亿参数的 Llama-3 变体在质量成本效益方面表现最佳，在消费级硬件上约每 1000 篇寓言成本为 0.135 美元。我们公开数据集、生成代码、评估脚本和完整元数据，采用宽松许可证，确保完全可复现和成本基准测试。TF1-EN-3M 为指令遵循、叙事智能、价值对齐和儿童友好教育 AI 研究开辟了新路径——表明大规模道德叙事既不需要专有巨型模型，也不需要专有评估基础设施。
引用
@article{arxiv.2504.20605,
title = {TF1-EN-3M: Three Million Synthetic Moral Fables for Training Small, Open Language Models},
author = {Mihai Nadas and Laura Diosan and Andrei Piscoran and Andreea Tomescu},
journal= {arXiv preprint arXiv:2504.20605},
year = {2026}
}
备注
18 pages, 6 tables, 1 figure. v2: revised evaluation with open-weight LLM judge panel, expanded citations