可解释人工智能在可用隐私与安全中的应用：挑战与机遇
人机交互
2025-04-18 v1
摘要
大型语言模型（LLMs）正在被广泛用于自动化评估和解释。然而，关于解释质量、一致性和幻觉的担忧仍是高风险情境（如隐私和安全）中用户信任和决策的开放性研究挑战。在本文中，我们在PRISMe情境下研究了这些问题，该工具是一种交互式隐私政策评估工具，利用LLMs来评估和解释网站隐私政策。基于对22名用户的先前研究，我们确定了关于LLM判断透明度、一致性和忠实性的关键担忧，以及用户对解释细节和参与度的偏好差异。我们讨论了缓解这些担忧的潜在策略，包括结构化评估准则、不确定性估计和检索增强生成（RAG）。我们确定需要针对不同用户档案为LLM判官制定自适应解释策略的需求。我们的目标是展示可用隐私和安全领域对于Human-Centered Explainable AI（HCXAI）具有良好的应用前景。
引用
@article{arxiv.2504.12931,
title = {Explainable AI in Usable Privacy and Security: Challenges and Opportunities},
author = {Vincent Freiberger and Arthur Fleig and Erik Buchmann},
journal= {arXiv preprint arXiv:2504.12931},
year = {2025}
}
备注
Presented at the 5th CHI Workshop on Human-Centered Explainable AI (HCXAI)