中文

探寻隐藏意图:对生成文本进行提示恢复的研究

计算与语言 2024-06-25 v1 人工智能

摘要

今天,AI 生成内容的检测正受到越来越多的关注。我们的想法是超越检测,尝试恢复生成文本所使用的提示。本文在我们认为该领域尚无系统研究的情况下,首次引入了此类研究。我们的目标是研究这种方法是否具有前景。我们实验了零样本和少样本的 in-context 学习,也使用了 LoRA 微调。随后,我们评估了使用半合成数据集的好处。对于这项初步研究,我们限制仅使用单一模型生成的文本。结果表明,在合理的准确度下,有可能恢复原始提示。

关键词

引用

@article{arxiv.2406.15871,
  title  = {Uncovering Hidden Intentions: Exploring Prompt Recovery for Deeper Insights into Generated Texts},
  author = {Louis Give and Timo Zaoral and Maria Antonietta Bruno},
  journal= {arXiv preprint arXiv:2406.15871},
  year   = {2024}
}

备注

Accepted at WNNLP 2024