潜伏之患：在线人口贩卖检测中的偏见认知与缓解

近年来，基于网络的人口贩卖活动有所增加，但由于其往往具有潜在性，在陪同 escort 广告中分布稀疏且难以识别。因此，利用智能系统检测贩卖活动可对调查资源分配与决策产生直接影响，并更广泛地有助于遏制这一普遍的社会问题。贩卖检测涉及为从网络爬取的一组 escort 广告赋予归一化分数——分数越高表明与贩卖（非自愿）活动相关的风险越大。在本文中，我们定义并研究了贩卖检测问题，并提出了在 DARPA Memex 项目三年研究中开发的贩卖检测流水线架构。借助在此期间收集的多机构数据、系统与经验，我们还进行了事后偏见分析并提出了偏见缓解方案。我们的研究结果表明，尽管自动贩卖检测是 AI 向善的一项重要应用，但它也为在没有适当去偏的情况下部署预测性机器学习算法提供了警示性教训。这最终促使将一个可解释的解决方案集成到一个包含超过 1 亿条广告、并被超过 200 家执法机构用于调查线索的搜索系统中。