一种生成字符串反事实的实用方法

针对语言模型 (LM) 表示空间的干预已成为影响模型行为的有效手段。此类方法例如被用于消除或改变模型表示中性别等人口统计信息的编码，从而创建反事实表示。然而，由于干预操作在表示空间内进行，精确理解其修改了文本的哪些方面构成了挑战。在本文中，我们提出了一种将表示反事实转换为字符串反事实的方法。我们证明，该方法使我们能够分析与给定表示空间干预相对应的语言变化，并解释用于编码特定概念的特征。此外，生成的反事实可用于通过数据增强来缓解分类中的偏差。