说服遇上人工智能：社交工程对策设计中的伦理考量
计算机与社会
2020-11-13 v1 人机交互
社会与信息网络
摘要
Facebook 或 Instagram 等社交网站（SNSs）中的隐私与人们的自我披露决策及其预见与庞大且多样化受众共享个人信息后果的能力密切相关。然而，在线隐私决策往往基于不可靠的风险判断，使人们容易向不信任的接收者泄露敏感数据并成为社交工程攻击的受害者。人工智能（AI）与助推等说服机制相结合，是促进 SNS 用户预防性隐私行为的一种有前景的方法。尽管如此，即使应用于社交工程对策的设计，将行为干预与高度个性化相结合也可能对人们的能动性与自主权构成潜在威胁。本文详述了助推机制给基于 AI 的对策开发（尤其是针对 SNS 中不安全自我披露行为的对策）带来的伦理挑战。总体而言，本文主张将个性化风险意识解决方案作为 i) 对抗社交工程的伦理方法，以及 ii) 促进反思性隐私决策的有效手段。
引用
@article{arxiv.2009.12853,
title = {Persuasion Meets AI: Ethical Considerations for the Design of Social Engineering Countermeasures},
author = {Nicolas E. Díaz Ferreyra and Esma Aïmeur and Hicham Hage and Maritta Heisel and Catherine García van Hoogstraten},
journal= {arXiv preprint arXiv:2009.12853},
year = {2020}
}
备注
Accepted for publication at IC3K 2020