当生成式AI模型递归地以彼此输出为训练数据时会发生什么？

互联网是生成式AI（genAI）模型的常见训练数据来源，但其中越来越多地充斥着AI生成的内容。这种二元性引发了未来genAI模型可能以其他模型生成的输出作为训练数据的可能性。先前工作已研究了模型以自身生成输出为训练数据的后果，但鲜有工作考虑模型摄入其他模型所产生内容时会发生什么。鉴于社会对genAI工具的日益依赖，理解此类数据介导的模型交互至关重要。本工作提供了数据介导交互在实践中可能如何展开的经验证据，为此交互式训练过程建立了理论模型，并进行了实验验证。我们发现，数据介导的交互可以通过让模型接触到原始训练数据中可能遗漏的新颖概念而使模型受益，但也可能使它们在共享任务上的性能趋同。