公平性感知因果模型的适应速度分析
人工智能
2023-09-01 v1
摘要
例如，在机器翻译任务中，为实现两种语言间的双向翻译，源语料常被用作目标语料，这涉及两个方向相反模型的训练。哪一个能最快适应领域偏移，在许多领域中至关重要。具体而言，考虑一个原始分布 p 因未知干预而改变，得到修正分布 p*。在将 p 与 p* 对齐时，多个因素会影响适应速率，包括 p 中变量间的因果依赖。然而在现实场景中，我们必须考虑训练过程的公平性，尤其关键的是纳入存在于原因变量与结果变量之间的敏感变量（偏差）。为探究此情形，我们考察一个具有原因-偏差-效应结构的简单结构因果模型（SCM），其中变量 A 作为原因（X）与效应（Y）之间的敏感变量。两个模型在该原因-偏差-效应 SCM 中分别呈现一致与相反的原因-效应方向。在对 SCM 内变量施加未知干预后，我们可模拟若干类领域偏移用于分析。随后我们比较两种模型在四种偏移场景下的适应速度。此外，我们证明了两种模型在所有干预下适应速度之间的关联。
引用
@article{arxiv.2308.16879,
title = {Adaptation Speed Analysis for Fairness-aware Causal Models},
author = {Yujie Lin and Chen Zhao and Minglai Shao and Xujiang Zhao and Haifeng Chen},
journal= {arXiv preprint arXiv:2308.16879},
year = {2023}
}
备注
CIKM 2023