SPOT：基于原创性分数阈值的文本来源预测
计算与语言
2024-06-03 v1 机器学习
摘要
大语言模型（LLM）的广泛接受解锁了新的应用和社会风险。流行的对策旨在检测错误信息，通常涉及训练用于识别任何信息相关性的领域特定模型。我们不评估信息的有效性，而是从信任的角度研究LLM生成的文本。在本研究中，我们将信任定义为能够判断输入文本是由LLM还是人类生成的能力。为此，我们设计了SPOT，一种高效的方法，它基于原创性分数对任何独立文本输入的来源进行分类。该分数源自给定LLM的预测，用于检测其他LLM。我们通过实验证明了该方法对现代LLM的架构、训练数据、评估数据、任务和压缩的鲁棒性。
引用
@article{arxiv.2405.20505,
title = {SPOT: Text Source Prediction from Originality Score Thresholding},
author = {Edouard Yvinec and Gabriel Kasser},
journal= {arXiv preprint arXiv:2405.20505},
year = {2024}
}