探寻隐藏意图:对生成文本进行提示恢复的研究
计算与语言
2024-06-25 v1 人工智能
摘要
今天,AI 生成内容的检测正受到越来越多的关注。我们的想法是超越检测,尝试恢复生成文本所使用的提示。本文在我们认为该领域尚无系统研究的情况下,首次引入了此类研究。我们的目标是研究这种方法是否具有前景。我们实验了零样本和少样本的 in-context 学习,也使用了 LoRA 微调。随后,我们评估了使用半合成数据集的好处。对于这项初步研究,我们限制仅使用单一模型生成的文本。结果表明,在合理的准确度下,有可能恢复原始提示。
引用
@article{arxiv.2406.15871,
title = {Uncovering Hidden Intentions: Exploring Prompt Recovery for Deeper Insights into Generated Texts},
author = {Louis Give and Timo Zaoral and Maria Antonietta Bruno},
journal= {arXiv preprint arXiv:2406.15871},
year = {2024}
}
备注
Accepted at WNNLP 2024