提出一种用于视觉隐私研究的交互式审计流水线

在理想世界中，已部署的机器学习模型将增强我们的社会。我们希望这些模型提供无偏且符合伦理的决策，造福所有人。然而事实并非总是如此；问题出现在导致模型部署的各步骤的数据准备过程中。持续使用有偏的数据集与流程将对社会群体造成不利影响，并增加日后修复问题的成本。在这项工作中，我们梳理研究者在系统部署前、中、后应考虑的决策过程，以理解其研究对社会的更广泛影响。贯穿本文，我们讨论机器学习流水线中的公平性、隐私与所有权问题；我们主张需要一种负责任的人在环(human-over-the-loop)方法论，以将问责制引入机器学习流水线，并最终反思探索具有有害社会影响的研究议程的必要性。我们审视视觉隐私研究并汲取可广泛适用于人工智能的经验。我们的目标是对视觉隐私与偏差问题的机器学习流水线进行系统分析。我们希望提高利益相关者（例如研究者、建模者、企业）的意识，因为这些问题在该流水线的各个机器学习阶段中传播。