网络安全领域从聊天机器人到 ChatGPT 的演进：漏洞、攻击、挑战与未来建议
密码学与安全
2023-06-16 v1 人工智能
计算机与社会
摘要
聊天机器人已从基于规则的方法转向人工智能技术，并在医疗、购物、客户服务、外卖、教育和研究中获得关注。OpenAI 开发的 ChatGPT 在互联网上掀起热潮，发布五天内用户即突破百万。然而，随着 popularity 的提升，聊天机器人也遭遇了网络安全威胁与漏洞。本文讨论了针对聊天机器人的相关文献、报告及解释性事件攻击。我们的出发点是梳理从 ELIZA（早期自然语言处理计算机程序）到 GPT-4 的聊天机器人时间线，并给出 ChatGPT 的工作机制。随后，我们探讨了聊天机器人中的网络安全攻击与漏洞。此外，我们具体考察了 ChatGPT 在生成恶意代码、钓鱼邮件、不可检测的零日攻击以及宏和 LOLBINs 方面的情形。进而，讨论了网络犯罪分子所利用的网络攻击与漏洞历史，尤其考量 ChatGPT 中的风险与漏洞。应对这些威胁与漏洞需要特定策略与措施以减少有害后果。因此，我们给出了应对这些挑战的未来方向。
引用
@article{arxiv.2306.09255,
title = {Chatbots to ChatGPT in a Cybersecurity Space: Evolution, Vulnerabilities, Attacks, Challenges, and Future Recommendations},
author = {Attia Qammar and Hongmei Wang and Jianguo Ding and Abdenacer Naouri and Mahmoud Daneshmand and Huansheng Ning},
journal= {arXiv preprint arXiv:2306.09255},
year = {2023}
}