面向知识图谱中的自动偏差检测
人工智能
2021-09-23 v1 机器学习
摘要
随着近期依赖知识图谱的社会应用激增，确保基于 KG 方法公平性的技术需求日益明显。先前工作已表明 KG 易受多种社会偏差影响，并提出了多种去偏方法。然而，此类研究聚焦于去偏技术，而待去偏关系由用户手动指定。由于手动指定本身易受人类认知偏差影响，亟需能够量化并暴露偏差的系统，以支撑关于去偏对象的更明智决策。为弥补文献中这一空白，我们描述了一种基于数值偏差度量的知识图谱嵌入中偏差识别框架。我们在职业预测任务上以三种不同偏差度量阐释该框架，且其可灵活扩展至更多偏差定义与应用。被标记为有偏差的关系可交由决策者判断以后续去偏。
引用
@article{arxiv.2109.10697,
title = {Towards Automatic Bias Detection in Knowledge Graphs},
author = {Daphna Keidar and Mian Zhong and Ce Zhang and Yash Raj Shrestha and Bibek Paudel},
journal= {arXiv preprint arXiv:2109.10697},
year = {2021}
}
备注
Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing: Findings (EMNLP 2021). Nov 7--11, 2021