合成癌症 -- 利用大语言模型增强虫洞
密码学与安全
2024-07-15 v2 人工智能
摘要
随着大型语言模型（LLM）日益精益求精，滥用潜力急剧上升。作为瑞士人工智能安全奖的提交作品，我们提出了一种新型变形恶意软件，利用LLM实现两个关键过程。首先，LLM被用于自动代码重写，以规避防病毒程序的签名检测。该恶意软件随后通过利用LLM对电子邮件回复进行社交工程化，鼓励收件人执行附件中的恶意软件。本次提交包括一个功能性最小原型，凸显了LLM对网络安全构成的风险，并强调了进一步研究智能恶意软件的必要性。
引用
@article{arxiv.2406.19570,
title = {Synthetic Cancer -- Augmenting Worms with LLMs},
author = {Benjamin Zimmerman and David Zollikofer},
journal= {arXiv preprint arXiv:2406.19570},
year = {2024}
}
备注
Won first place at the Swiss AI Safety Prize. Some technical details omitted, contact authors for more information