数字欺骗：生成式人工智能在社会工程与钓鱼攻击中的应用
密码学与安全
2025-06-03 v1 计算机与社会
人机交互
摘要
人工智能(AI)与机器学习(ML)的发展对我们数字交互的效用与安全具有深远影响。本文研究了生成式AI在社会工程(SE)攻击中的变革性作用。我们对社会工程与AI能力进行了系统综述，并运用社会工程理论识别出生成式AI放大SE攻击影响的三个支柱：逼真内容生成、高级定向与个性化、以及自动化攻击基础设施。我们将这些要素整合为一个用于探究AI驱动SE攻击复杂性的概念模型——生成式AI社会工程框架。我们进一步探讨了人类层面的影响及潜在的缓解对策。本研究旨在深化对这一新兴范式相关风险、人类影响与对策的理解，从而有助于实现更安全可信的人机交互。
引用
@article{arxiv.2310.13715,
title = {Digital Deception: Generative Artificial Intelligence in Social Engineering and Phishing},
author = {Marc Schmitt and Ivan Flechais},
journal= {arXiv preprint arXiv:2310.13715},
year = {2025}
}
备注
Submitted to CHI 2024