迈向可解释的用户：利用 NLP 使 AI 理解用户对网络攻击的感知
人机交互
2021-06-04 v1 人工智能
密码学与安全
摘要
为理解终端用户如何概念化网络安全攻击的后果，我们进行了一项卡片分类研究——认知科学中一种众所周知的技术，参与者可自由将所给选定网络攻击的后果按他们认为合适的理由分组为任意多个类别。开放式卡片分类研究的结果显示出大量的参与者间差异，使研究团队疑惑安全攻击的后果是如何被参与者理解的。作为探究是否可能通过人工智能(AI)技术解释用户心智模型与行为的尝试，研究团队将卡片分类数据与若干自然语言处理(NLP)技术的输出进行比较，旨在理解参与者如何感知并解释以自然语言写成的网络攻击后果。基于 NLP 的探索方法的结果揭示了一个有趣的观察，暗示参与者大多采用检查每句中个别关键词的方式来将网络攻击后果分组，而较少考虑网络攻击后果描述背后的语义。本文报告的结果看似对从用户视角理解网络攻击是有用且重要的。据我们所知，本文是首篇引入使用 AI 技术来解释和建模用户行为及其对某一情境的感知的论文。此处引入的新颖思想是关于用 AI 解释用户。
引用
@article{arxiv.2106.01998,
title = {Toward Explainable Users: Using NLP to Enable AI to Understand Users' Perceptions of Cyber Attacks},
author = {Faranak Abri and Luis Felipe Gutierrez and Chaitra T. Kulkarni and Akbar Siami Namin and Keith S. Jones},
journal= {arXiv preprint arXiv:2106.01998},
year = {2021}
}
备注
20 pages, 3 figures, COMPSAC'21