字符串思想种子：用于分布忠实且多样化生成的 LLM 提示方法
人工智能
2026-02-09 v3
摘要
我们介绍了字符串思想种子（String Seed of Thought, SSoT），这是一种 Novel prompting 方法，用于提升 LLM 的概率指令遵循能力（Probabilistic Instruction Following, PIF）。我们定义 PIF 为需要 LLM 从一组带有特定概率的选项中选择答案，使得多次提示下生成答案的经验分布与目标分布一致。虽然 LLM 在单一、确定性答案的任务中表现出色，但在 PIF 任务中常常表现不佳，存在偏差，这对于需要非确定性行为的应用（如人类行为模拟、内容多样化和多人游戏）构成问题。这也会捐害生成响应的多样性，这是测试时间扩展中的关键因素，因而导致输出坍缩为有限的答案集合。为此，我们提出了 SSoT，一种简单却有效的提示方法，指示 LLM 首先输出随机字符串以生成足够的熵。SSoT 还指示 LLM 通过操作该字符串来提取随机性，以在保持特定约束的同时保留多样性。我们展示了 SSoT 显著改善了 LLM 的 PIF 性能，接近伪随机数生成器的理想性能。此外，我们在 NoveltyBench 上的实验表明，SSoT 的优势不仅限于封闭集合任务，还通过增强响应多样性适用于开放性任务。
引用
@article{arxiv.2510.21150,
title = {String Seed of Thought: Prompting LLMs for Distribution-Faithful and Diverse Generation},
author = {Kou Misaki and Takuya Akiba},
journal= {arXiv preprint arXiv:2510.21150},
year = {2026}
}
备注
Accepted to ICLR 2026