人工智能中的数据、权力与偏见

人工智能有可能加剧社会偏见，并使数十年来在平等权利与公民自由方面取得的进展出现倒退。用于训练机器学习算法的数据可能捕捉到社会不公、不平等或歧视性态度，这些可能被学习并在社会中延续。从技术解决方案、社会正义和数据治理措施等不同视角出发，解决该问题的尝试正在迅速涌现。尽管这些方法对于构建全面解决方案都至关重要，但与之相关的论述往往显得分散。本文综述了来自不同领域、旨在确保人工智能系统中数据正义、公平性与偏见缓解的 ongoing 工作，探讨它们之间的相互关联动态，并审视人工智能训练数据中偏见的不可避免性是否实际上可被用于社会公益。我们强调了在制定应对偏见的政策时所涉及的复杂性，并考虑了解决社会偏见问题中的技术挑战。