SoK：医疗 AI 的安全与隐私风险
密码学与安全
2025-05-02 v2 人工智能
机器学习
摘要
将人工智能（AI）和机器学习（ML）集成到医疗系统中为提高患者护理和护理 delivery 效率充满了巨大潜力；然而，这也将敏感数据和系统完整性暴露于潜在网络攻击之下。当前针对医疗 AI 的安全与隐私（S&P）研究在医疗部署场景和威胁模型方面存在严重不平衡，并与生物医学研究社区之间的认知鸿沟。这阻碍了对医疗 AI 所蕴含风险的全面理解。为填补这一空白，本文对现有医疗 AI S&P 研究进行彻底审查，提出统一框架以识别尚未探索的领域。我们的调查提供了医疗 AI 攻击与防御的系统概览，并指出每个由 AI 驱动的医疗应用领域的挑战与研究机遇。通过对不同威胁模型的实验分析和对尚未探索的对抗攻击的可行性研究，本文为医疗 AI 快速演进领域的网络安全研究提供了有力的见解。
引用
@article{arxiv.2409.07415,
title = {SoK: Security and Privacy Risks of Healthcare AI},
author = {Yuanhaur Chang and Han Liu and Chenyang Lu and Ning Zhang},
journal= {arXiv preprint arXiv:2409.07415},
year = {2025}
}