面向大语言模型的审慎式提示词恢复(DORY)

大语言模型(LLMs)中的提示词恢复对于理解 LLM 的工作原理以及解决关于隐私、版权等问题至关重要。推断-only API 的趋势使这一任务变得更加困难，因为它限制了恢复所必需的输出。为解决这一挑战，我们从有限的输出中提取提示词相关信息，并发现一种强(负)相关性存在于输出基于概率的不确定性与提示词恢复成功率之间。这一发现促成了我们 novel 方法 Deliberative PrOmpt RecoverY(DORY) 的开发，该方法利用不确定性准确恢复提示词。DORY 包括从输出中重建草稿、用提示进行细化，并基于不确定性过滤噪声。我们在多样化的 LLMs 和提示基准测试上进行评估，结果表明 DORY 超越了现有基线方法，性能提升约 10.82%，在提示词恢复任务中建立了新的最佳纪录。显著的是，DORY 只需一个 LLM 即可工作，无需任何外部资源或模型，提供一种具有成本效益、用户友好的提示词恢复解决方案。