中文

ET-BERT:一种基于预训练Transformer的上下文化数据报表示用于加密流量分类

密码学与安全 2022-02-22 v2 人工智能 网络与互联网体系结构

摘要

加密流量分类需要从内容不可见且不平衡的流量数据中捕获具有判别性与鲁棒性的流量表示以实现准确分类,这对于实现网络安全与网络管理而言颇具挑战但不可或缺。现有方案的主要局限在于高度依赖深度特征,这些特征过度依赖数据规模且难以在未见数据上泛化。如何利用开放域无标签流量数据学习具有强泛化能力的表示仍是一项关键挑战。本文中,我们提出一种称为加密流量Transformer双向编码器表示(ET-BERT)的新流量表示模型,其从大规模无标签数据中预训练深度上下文化数据报级表示。该预训练模型可在少量任务特定标签数据上微调,并在五项加密流量分类任务上取得最先进性能,显著将ISCX-Tor的F1推至99.2%(绝对提升4.4%)、ISCX-VPN-Service至98.9%(绝对提升5.2%)、Cross-Platform (Android)至92.5%(绝对提升5.4%)、CSTNET-TLS 1.3至97.4%(绝对提升10.0%)。值得注意的是,我们通过分析密码的随机性对经验上强大的预训练模型给出解释,从而深化对加密流量分类能力边界的理解。代码见:https://github.com/linwhitehat/ET-BERT。

关键词

引用

@article{arxiv.2202.06335,
  title  = {ET-BERT: A Contextualized Datagram Representation with Pre-training Transformers for Encrypted Traffic Classification},
  author = {Xinjie Lin and Gang Xiong and Gaopeng Gou and Zhen Li and Junzheng Shi and Jing Yu},
  journal= {arXiv preprint arXiv:2202.06335},
  year   = {2022}
}

备注

This work has been accepted in Security, Privacy, and Trust track at The Web Conference 2022 (WWW'22)(see https://www2022.thewebconf.org/cfp/research/security/)