时间透明度的必要性：检测黑盒决策系统中的策略变更事件
机器学习
2016-11-01 v1 计算机与社会
摘要
近年来，提高黑盒决策系统（DMS）的透明度已成为日益受到关注的研究课题。传统的主动和被动方法使这些系统透明化，往往受到可扩展性和/或可行性问题的限制。在本文中，我们提出了一种新的黑盒 DMS 透明度概念，命名为时间透明度，其目标是检测 DMS 策略是否/何时随时间发生变化，且基本上不受传统方法缺点的影响。我们将时间透明度的概念映射到时间序列变点检测方法，并开发了一个框架来检测现实世界 DMS 中的策略变化。在纽约“拦截与搜身”（Stop-question-and-frisk）数据集上的实验揭示了许多公开宣布和未宣布的策略变化，突显了我们框架的实用性。
引用
@article{arxiv.1610.10064,
title = {The Case for Temporal Transparency: Detecting Policy Change Events in Black-Box Decision Making Systems},
author = {Miguel Ferreira and Muhammad Bilal Zafar and Krishna P. Gummadi},
journal= {arXiv preprint arXiv:1610.10064},
year = {2016}
}