反事实在伦理机器学习中的使用与误用

在机器学习社区与工业界，使用反事实进行算法公平性与可解释性考量正日益受到重视。本文主张，当所考虑的事实涉及种族或性别等社会范畴时，应更谨慎地使用反事实。我们回顾了来自哲学与社会科学中关于社会本体论与反事实语义的广泛文献，并得出结论：机器学习公平性与社会可解释性中的反事实方法可能要求一种关于社会范畴是什么的不连贯理论。我们的发现表明，大多数情况下社会范畴可能不容许反事实操作，因此可能无法恰当地满足评判反事实真假的需求。这一点很重要，因为反事实在机器学习中的广泛使用在应用于高风险领域时可能导致误导性结果。据此，我们认为尽管反事实在某些因果推断中扮演重要角色，但将其用于算法公平性与社会解释问题可能制造多于所解决的问题。我们的积极成果是一组关于在机器学习中使用反事实进行公平性与解释的信条。