通过针对边缘/终端设备的侧信道攻击精确提取深度学习模型
人工智能
2024-03-06 v1 密码学与安全
机器学习
摘要
随着日益普及，深度学习（DL）模型规模越来越大，只有拥有海量训练数据集和巨大计算能力的公司才能运营此类大型模型业务。大多数此类 DL 模型为公司专有，因此它们致力于保护其私有模型免受模型提取攻击（MEA）的侵害，后者旨在通过训练代理模型来窃取模型。如今，公司倾向于将模型从中央服务器卸载到边缘/终端设备。正如最新研究所示， adversaries 利用这一机会作为新的攻击向量，对运行受害模型的设备发起侧信道攻击（SCA），并获取各种模型信息片段，如模型架构（MA）和图像维度（ID）。我们的工作首次全面理解了这种关系，并将有益于未来进攻和防御两方面的 MEA 研究，因为它们可以了解 SCA 暴露的哪些信息片段比其他信息更重要。我们的分析还揭示，通过从 SCA 掌握受害模型信息，即使没有任何关于模型的先验知识，MEA 也能变得非常有效和成功。最后，为了证明我们分析结果的实用性，我们在现实威胁假设下经验性地应用了 SCA，随后实施了 MEA。结果显示，其性能比攻击者对受害模型毫无信息时高出多达 5.8 倍。
引用
@article{arxiv.2403.02870,
title = {Precise Extraction of Deep Learning Models via Side-Channel Attacks on Edge/Endpoint Devices},
author = {Younghan Lee and Sohee Jun and Yungi Cho and Woorim Han and Hyungon Moon and Yunheung Paek},
journal= {arXiv preprint arXiv:2403.02870},
year = {2024}
}
备注
Accepted by 27th European Symposium on Research in Computer Security (ESORICS 2022)