人工智能与算法公平性中的种族/族裔类别：为何重要及其代表什么

种族多样性在人工智能和算法公平性文献中受到越来越多的讨论，但很少有人关注论证种族类别的选择，以及理解人们是如何被种族化归入这些选定的种族类别的。对于种族类别如何变化，以及种族化过程如何根据数据集或模型的情境而改变，受到的关注就更少了。对所选种族类别包含\textit{谁}以及人们\textit{如何}被种族化归入这些类别缺乏清晰的理解，会导致对这些类别的不同解释。当对种族类别和种族化过程的理解与实际的种族化过程及所使用的种族类别不一致时，这些不同的解释可能会导致伤害。如果所使用的种族化过程和种族类别不相关或在所应用的情境中不存在，也会产生伤害。在本文中，我们做出了两项贡献。首先，我们展示了具有不明确假设且缺乏论证的种族类别如何导致不同的数据集，这些数据集不能很好地代表被给定种族类别所掩盖或未代表的群体，并且导致模型在这些群体上表现不佳。其次，我们开发了一个框架CIRCSheets，用于记录选择种族类别时的选择和假设，以及种族化归入这些类别的过程，以促进理解数据集或模型开发者在选择或使用这些种族类别时所做过程和假设的透明度。