伦理困境中保护隐私的群体引导式 AI 决策
密码学与安全
2019-09-30 v2 人工智能
摘要
随着人工智能(AI)的快速发展,围绕 AI 的伦理问题日益受到关注。特别是,自动驾驶车辆可能在事故场景中面临道德困境,例如保持原路线会伤害行人或转向会导致伤害乘客。为研究此类伦理困境,近期研究采用偏好聚合,即每位投票者表达对可能伦理困境场景下决策的首选,由中心化系统聚合这些偏好以得出胜出决策。尽管这是构建伦理 AI 系统的有用方法,但此类方法可能侵犯投票者隐私,因为道德偏好属敏感信息,其泄露可被恶意方利用。本文报道了一种首创的伦理困境中保护隐私的群体引导式 AI 决策方法。我们采用差分隐私概念来量化隐私,并通过考虑投票者/记录级隐私保护以及中心化/分布式扰动,得出四种隐私保护粒度,即 VLCP、RLCP、VLDP 和 RLDP 四种方法。此外,我们提出不同算法以实现这些隐私保护粒度,同时保持所学道德偏好模型的准确性。具体而言,VLCP 和 RLCP 由数据聚合方设定统一隐私参数并扰动平均道德偏好以保护投票者数据隐私;VLDP 和 RLDP 的实现方式为每位投票者以个性化隐私参数扰动其本地道德偏好。在合成与真实数据上的大量实验表明,所提方法能在保护个体投票者隐私的同时实现高精度的偏好聚合。
引用
@article{arxiv.1906.01562,
title = {Privacy-preserving Crowd-guided AI Decision-making in Ethical Dilemmas},
author = {Teng Wang and Jun Zhao and Han Yu and Jinyan Liu and Xinyu Yang and Xuebin Ren and Shuyu Shi},
journal= {arXiv preprint arXiv:1906.01562},
year = {2019}
}
备注
This paper has been published as a full paper in ACM International Conference on Information and Knowledge Management (CIKM) 2019, held in November 3-7, 2019, Beijing, China