量化算法偏见随时间的变化

算法如今渗透于人类生活的多个方面，近期多项结果报告称这些算法可能存在涉及性别、种族及其他人口统计学特征的偏见。用于量化此类偏见的指标仍聚焦于算法的静态概念。然而，算法随时间演化。例如，Tay（微软推出的对话机器人）在发布时可以说并无偏见，但很快随时间变得有偏见、性别歧视和种族主义。我们提出一组直观指标来研究偏见随时间的变动，并展示一个案例研究的结果：在 21 天内对 Twitter 图像搜索中 #Nurse 与 #Doctor 所呈现的性别进行画像。结果表明偏见随时间显著变化，且偏见方向在不同日期可能看似不同。因此，一次性测量可能不足以理解算法偏见，从而推动进一步研究算法偏见随时间演变的工作。