对着镜头微笑：情感 AI 的隐私与政策影响
计算机与社会
2017-09-04 v1
摘要
将人工智能 (AI) 引入视觉图像进行情感分析，抹杀了我们面部表情固有的主观性和语境依赖性。情感 AI 将自身定位为针对我们数字制品和实时互动的算法透镜，创造出一种新的、客观的数据类别的错觉：即我们的情感和心理状态。基于丰富的现有公共照片网络——以及来自监控录像或智能手机摄像头的实时流——这些情感算法无需额外的基础设施或图像质量改进。为了考察作为新兴技术的情感 AI 的潜在政策和法律补救措施，我们首先建立了一个包含行为者、收集动机、时间尺度和空间考量的框架，以区分情感 AI 与其他算法透镜。这些要素中的每一个都影响着可用的政策补救措施，并应塑造关于使情感 AI 在特定情境下可接受或不可接受的前置条件的持续讨论。基于我们独特的要素框架，我们考察了防止或补救危害的潜在可用政策补救措施。具体而言，本文着眼于美国联邦贸易委员会的监管作用、欧盟《通用数据保护条例》(GDPR) 中允许收集情感数据的漏洞，以及测谎技术在法律设定的证据和使用限制方面所确立的先例。我们还考察了社会规范和适应如何发展以调节更广泛的使用。鉴于控制这些数据流动的挑战，我们呼吁在情感 AI 技术即将被采用之际，进行进一步的研究和关注。
引用
@article{arxiv.1709.00396,
title = {Smile for the Camera: Privacy and Policy Implications of Emotion AI},
author = {Elaine Sedenberg and John Chuang},
journal= {arXiv preprint arXiv:1709.00396},
year = {2017}
}