LLM在网络安全中的角色：在人类决策回路中是朋友还是敌人？
密码学与安全
2025-09-09 v1
摘要
大型语言模型(LLMs)正在通过充当认知合作者的方式改变人类决策方式。然而，这一承诺伴随着一个悖论：尽管LLMs可以提高准确性，但也可能削弱独立推理能力，促进过度依赖并同质化决策。在本文中，我们研究LLMs如何在安全关键情境中塑造人类判断。通过两组探索性焦点小组（无LLM支持组与LLM支持组），我们评估决策准确性、行为韧性和依赖动态。我们的发现表明，尽管LLMs在例行决策中提高了准确性和一致性，但会无意中降低认知多样性并加强自动化偏见，这在认知韧性较低的用户中尤为如此。相比之下，高韧性个体更有效地利用LLMs，表明认知特征中介了AI的效应。
引用
@article{arxiv.2509.06595,
title = {LLMs in Cybersecurity: Friend or Foe in the Human Decision Loop?},
author = {Irdin Pekaric and Philipp Zech and Tom Mattson},
journal= {arXiv preprint arXiv:2509.06595},
year = {2025}
}