大型语言模型（或人类）能否解耦文本？

我们研究了大型语言模型（LLMs）解耦文本变量的潜力——即在有时被称为文本蒸馏的任务中，去除不期望的禁止变量的文本痕迹，这与人工智能公平性和因果推断文献密切相关。我们采用了一系列不同的LLM方法，试图通过识别并移除关于目标变量的信息，同时保留其他相关信号来解耦文本。我们表明，在去除情感的严格测试中，经过LLM解耦后，处理后的文本与情感之间的统计关联仍能被机器学习分类器检测到。此外，我们发现人类标注者在保留其他语义内容的同时，也难以解耦情感。这表明在某些文本上下文中，概念变量之间的可分离性可能有限，突显了依赖文本级变换方法的局限性，并对在表示空间中实现统计独立的解耦方法的鲁棒性提出了质疑。