对伪相关性的反事实不变性：为何及如何通过压力测试

非正式地，“伪相关性”指模型对输入数据中分析者认为不应起作用的部分的依赖。在机器学习中，它们具有“一看便知”的特征；例如，改变句子主语的性别会改变情感预测器的输出。为检验伪相关性，我们可通过扰动输入数据中无关部分并观察模型预测是否变化来“压力测试”模型。本文借助因果推断工具研究压力测试。我们引入反事实不变性，作为“改变输入无关部分不应改变模型预测”这一要求的形式化。我们将反事实不变性与域外模型表现相联系，并提供学习（近似）反事实不变预测器（无需反事实样本）的实用方案。结果表明，反事实不变性的含义与实现方式根本上取决于数据的真实底层因果结构——尤其是标签导致特征还是特征导致标签。不同的因果结构需要不同的正则化方案来诱导反事实不变性。类似地，反事实不变性所隐含的域偏移保证也随底层因果结构而异。该理论得到文本分类实证结果的支持。