增强 TinyML 安全性：对抗攻击可迁移性研究
密码学与安全
2024-07-19 v2 人工智能
摘要
人工智能 (AI) 和机器学习 (ML) 的最新进展推动了 TinyML 的兴起，这是一种在无需依赖云端连接的情况下在边缘设备上进行 AI 计算的范式。虽然 TinyML 提供了对实时数据分析和快速响应的关键能力，但其设备的固有资源限制暴露了它们的安全风险。本研究深入探讨了资源受限嵌入式硬件上 AI 模型的对抗性漏洞，重点关注模型提取和逃逸攻击。我们的发现表明，对抗性攻击来自强大主机机器，可迁移到类似 ESP32 和树莓派等小型、较不安全的设备。这说明对抗性攻击可扩展到小型设备，凸显了漏洞，强调了在 TinyML 部署中需要强化安全措施的必要性。本次探索增强了对 TinyML 安全挑战的理解，并为保护敏感数据和确保 AI 驱动边缘计算环境中设备可靠性提供了见解。
引用
@article{arxiv.2407.11599,
title = {Enhancing TinyML Security: Study of Adversarial Attack Transferability},
author = {Parin Shah and Yuvaraj Govindarajulu and Pavan Kulkarni and Manojkumar Parmar},
journal= {arXiv preprint arXiv:2407.11599},
year = {2024}
}
备注
Accepted and presented at tinyML Foundation EMEA Innovation Forum 2024