从本征维度视角探索稳定扩散模型的表示流形

提示已成为用户更有效地与多种基础模型交互的重要机制。事实上，过去几年表明，精心设计的提示有时能解锁此类模型中的涌现能力。虽然社区内已有大量关于提示的实证探索，但相对较少有工作在数学层面研究提示。在这项工作中，我们旨在迈出理解稳定扩散（Stable Diffusion）中提示所诱导的基本几何性质的第一步，重点关注模型内部表示的本征维度。我们发现，提示的选择对我们所探索的模型两个层的表示本征维度都有显著影响，但这种影响的性质取决于所考虑的层。例如，在模型的某些瓶颈层中，表示的本征维度与提示困惑度（通过代理模型测量）相关，而这种相关性在潜在层中并不明显。我们的证据表明，本征维度可能成为未来研究不同提示对文本到图像模型影响的有用工具。