中文

可疑的 AI:Vibraimage、情绪识别技术与算法不透明性

计算机与社会 2020-09-02 v1 人工智能

摘要

Vibraimage 是一套数字系统,通过分析受试者头部运动的视频画面来量化其心理与情绪状态。Vibraimage 被俄罗斯、中国、日本和韩国的警察、核电站操作员、机场安保及精神科医生所使用,并曾部署于奥运会、国际足联世界杯和七国集团峰会。然而,并无可靠证据表明该技术确实有效;事实上,关于其效果的诸多宣称似乎无法证伪。Vibraimage 究竟测量了什么,又如何获得渗透至俄罗斯与亚洲最高规格、最敏感安全基础设施的能力?本文首先追溯情绪识别产业的发展,继而考察 Vibraimage 的开发者及其合作者为使该技术获得科学正当性所做的尝试,结论是:Vibraimage 的规训力量与企业价值正通过其自身的不透明性而生成,这与社会科学界日益增强的透明性诉求形成对照。我提出术语“可疑的 AI(suspect AI)”来描述越来越多诸如 Vibraimage 般以算法对嫌疑/非嫌疑者进行分类、但其自身却极可疑的系统。推广该术语或有助于抵制此类技术以还原论方式“解读”——并施加权威于——情绪、意向性与能动性。

关键词

引用

@article{arxiv.2009.00502,
  title  = {Suspect AI: Vibraimage, Emotion Recognition Technology, and Algorithmic Opacity},
  author = {James Wright},
  journal= {arXiv preprint arXiv:2009.00502},
  year   = {2020}
}