全精度模型上的高效比特翻转搜索
机器学习
2025-02-18 v3 密码学与安全
摘要
神经网络在各种任务中表现出色，但它们仍然容易受到输入或模型参数中细微变化的影响。一种特别具有影响力的漏洞是比特翻转攻击（Bit-Flip Attack, BFA），即翻转模型参数中少量关键比特就能严重降低其性能。在DRAM中引发比特翻转的常用技术是Row-Hammer攻击，它利用频繁的非缓存内存访问来篡改数据。识别易受影响的比特可以通过穷举搜索或逐层渐进分析来实现，尤其是在量化网络中。在这项工作中，我们提出了高效比特翻转搜索（Impactful Bit-Flip Search, IBS），这是一种在全精度网络中高效定位并翻转关键比特的新方法。此外，我们还提出了一种权重隐身技术，该技术以保持浮点值在原始分布内的方式策略性地修改模型参数，从而绕过篡改检测中常用的简单范围检查。
引用
@article{arxiv.2411.08133,
title = {Impactful Bit-Flip Search on Full-precision Models},
author = {Nadav Benedek and Matan Levy and Mahmood Sharif},
journal= {arXiv preprint arXiv:2411.08133},
year = {2025}
}