SoK：驯服三角——论机器学习中公平性、可解释性与隐私之间的相互作用
机器学习
2023-12-29 v1 人工智能
摘要
机器学习技术越来越多地用于高风险决策，例如大学录取、贷款分配或累犯预测。因此，确保所学模型能够被人类用户审计或理解、不会产生或再现歧视或偏见、并且不会泄露有关其训练数据的敏感信息至关重要。事实上，可解释性、公平性和隐私是负责任机器学习发展的关键要求，并且在过去十年中这三者都得到了广泛研究。然而，它们主要被孤立地考虑，而在实践中它们彼此之间相互作用，无论是积极的还是消极的。在这篇系统化知识（SoK）论文中，我们调查了关于这三个期望之间相互作用的文献。更准确地说，对于每一对相互作用，我们总结了已识别的协同作用和紧张关系。这些发现突出了几个基本的理论和经验冲突，同时也表明当旨在保持高水平效用时，共同考虑这些不同要求是具有挑战性的。为了解决这个问题，我们还讨论了可能的协调机制，表明精心设计可以在实践中成功处理这些不同的问题。
引用
@article{arxiv.2312.16191,
title = {SoK: Taming the Triangle -- On the Interplays between Fairness, Interpretability and Privacy in Machine Learning},
author = {Julien Ferry and Ulrich Aïvodji and Sébastien Gambs and Marie-José Huguet and Mohamed Siala},
journal= {arXiv preprint arXiv:2312.16191},
year = {2023}
}