量化作者归属归因中的误归因不公平性
计算与语言
2025-06-04 v1
摘要
在现实生活中，作者误归因可能产生深远后果。在司法取证环境中，仅仅被视为某段证据文本或通信的潜在作者之一，就可能导致不受欢迎的审查。这引发了一个公平性问题：候选池中的每位作者是否面临同等的误归因风险？作者归属归因系统的标准评估指标并未明确考量这一公平性概念。我们引入了一个简单的指标——误归因不公平指数 (MAUIk)，它基于作者在其未撰写的文本中被排在前 k 名的频率。利用该指标，我们量化了五个模型在两个不同数据集上的不公平性。所有模型均表现出较高程度的不公平性，部分作者面临更高的风险。此外，我们发现这种不公平性与模型如何将作者作为向量嵌入到潜在搜索空间中有关。具体而言，我们观察到，对于在 haystack 中嵌入位置更接近被嵌入作者质心（或中心）的作者，其误归因风险更高。这些结果表明了潜在的损害风险，以及在构建和提供此类模型供下游使用时，有必要就误归因风险与终端用户进行沟通和校准。
引用
@article{arxiv.2506.02321,
title = {Quantifying Misattribution Unfairness in Authorship Attribution},
author = {Pegah Alipoormolabashi and Ajay Patel and Niranjan Balasubramanian},
journal= {arXiv preprint arXiv:2506.02321},
year = {2025}
}