通过探索大语言模型微调转变计算机安全与公众信任
计算与语言
2024-08-12 v1 密码学与安全
计算机与社会
机器学习
摘要
大语言模型(LLMs)彻底改变了我们与机器的交互方式。然而,这一技术进步伴随着“Mallas”的出现,即在地下运营的恶意服务,它们利用LLMs进行邪恶目的。此类服务创建恶意软件、网络钓鱼攻击和欺骗性网站,加剧了网络安全威胁的格局。本文通过检查各种预训练语言模型的使用情况及其在被滥用时的效率和漏洞,深入探讨了Mallas的扩散。基于通用漏洞披露(CVE)项目的数据集,本文探索了微调方法,以生成与已识别漏洞相关的代码和解释性文本。本研究旨在揭示Mallas的运营策略和利用技术,从而推动开发更安全、更值得信赖的AI应用。论文最后强调了需要进一步研究、加强保障措施和制定伦理准则,以减轻与LLMs恶意应用相关的风险。
引用
@article{arxiv.2406.00628,
title = {Transforming Computer Security and Public Trust Through the Exploration of Fine-Tuning Large Language Models},
author = {Garrett Crumrine and Izzat Alsmadi and Jesus Guerrero and Yuvaraj Munian},
journal= {arXiv preprint arXiv:2406.00628},
year = {2024}
}
备注
A preprint, 17 pages. 11 images