面向遭受人工智能网络攻击的普通用户的可解释人工智能定性实地研究
人机交互
2024-06-12 v1
摘要
本文介绍了一项针对遭受人工智能网络攻击的普通用户（n = 18）的可解释人工智能（XAI）定性实地研究结果。该研究基于一个名为Squid的自制智能供暖应用，于2023年初进行了七周。Squid将安装在参与者家中的智能散热阀与一个实现人工智能功能（称为设定点学习，常见于消费级智能恒温器）的Web应用相结合。Squid的开发遵循了可解释性设计（interpretability-by-design）的XAI原则，即使用简单的玻璃箱（glass-box）机器学习模型实现人工智能功能，随后通过Web界面（例如交互式可视化）将该模型暴露给用户。通过注入恶意训练数据和操纵用于模型预测的数据来模拟对用户的人工智能攻击。研究数据包括半结构化访谈、研究者现场笔记、参与者日记和应用日志。在我们的分析中，我们反思了XAI对用户满意度和用户理解力的影响，以及其作为诊断人工智能攻击工具的使用情况。我们的结果显示，用户对XAI功能的参与度有限，并表明对于Squid用户而言，XAI文献中的常见假设与现实不符。从积极方面看，与先前工作相比，用户似乎对人工智能功能形成了更好的心智模型，并且有证据表明用户确实将XAI用作诊断工具。
引用
@article{arxiv.2406.07369,
title = {A qualitative field study on explainable AI for lay users subjected to AI cyberattacks},
author = {Kevin McAreavey and Weiru Liu and Kim Bauters and Dennis Ivory and George Loukas and Manos Panaousis and Hsueh-Ju Chen and Rea Gill and Rachael Payler and Asimina Vasalou},
journal= {arXiv preprint arXiv:2406.07369},
year = {2024}
}