像网络钓鱼者一样说话：基于 LLM 的语音钓鱼分类器攻击
密码学与安全
2025-07-23 v1
摘要
语音钓鱼仍是网络安全中持续存在的威胁，通过诱导性语音利用人类的信任。尽管基于机器学习（ML）的分类器在检测恶意通话记录方面展现出潜力，但它们仍易受保留语义内容的对抗性操纵的影响。在本研究中，我们探索了一种新型攻击向量，利用大语言模型（LLM）生成能够逃避检测同时保持欺骗意图的对抗性语音钓鱼记录。我们构建了系统化的攻击流水线，采用提示工程和语义混淆，使用四种商用 LLM 转换真实世界的语音钓鱼脚本。生成的记录通过统计检验，在真实世界的韩语语音钓鱼数据集上训练的多个 ML 分类器进行评估。我们的实验表明，LLM 生成的记录在实用性和统计上均对基于 ML 的分类器有效。特别是，由 GPT-4o 生成的记录在保持高语义相似性（由 BERTScore 衡量）的同时，显著降低了分类器准确率（最高达 30.96%）。此外，这些攻击兼具时间效率与成本效益，平均生成时间不到 9 秒，每次查询的财务成本可忽略不计。结果凸显了对更具鲁棒性的语音钓鱼检测框架的迫切需求，并强调了 LLM 提供商在对抗性社会工程场景中加强防范提示滥用的必要性。
引用
@article{arxiv.2507.16291,
title = {Talking Like a Phisher: LLM-Based Attacks on Voice Phishing Classifiers},
author = {Wenhao Li and Selvakumar Manickam and Yung-wey Chong and Shankar Karuppayah},
journal= {arXiv preprint arXiv:2507.16291},
year = {2025}
}
备注
Accepted by EAI ICDF2C 2025