AI医疗器械的网络安全：风险、立法与挑战
密码学与安全
2023-03-07 v1 人工智能
计算机与社会
摘要
医疗器械与人工智能系统正迅速改变医疗服务的提供方式。同时，由于其自身特性，作为医疗器械或嵌入医疗器械的AI可能遭受网络攻击，从而导致患者安全与安全风险。本图书章节分为三个部分。第一部分首先铺垫背景，解释网络安全在医疗中的作用。然后，我们简要界定当谈及本身被视为医疗器械或支撑医疗器械的AI时所指的对象。为说明此类医疗器械带来的风险，我们给出三个例子：数据集投毒、社会工程学以及数据或源代码提取。在第二部分，本文概述了与确保作为或嵌入医疗器械的AI之网络安全相关的欧盟监管框架（MDR、NIS指令、网络安全法、GDPR、AI法案提案以及NIS 2指令提案）。最后，第三部分考察源于欧盟监管框架的可能挑战。具体而言，我们着眼于两项立法提案带来的挑战及其与涉及AI医疗器械网络安全的现有立法之间的相互作用。它们被构建为对以下问题的回答：（1）AI法案将如何就网络安全与安全性要求与MDR相互作用？（2）我们应怎样解释NIS 2指令提案与MDR中的事件通知要求？（3）关键基础设施这一不断演变的术语有何后果？[此为草稿章节。最终版本将收录于Barry Solaiman与I. Glenn Cohen编辑的《健康、AI与法律研究手册》，预计2023年由Edward Elgar Publishing Ltd出版]
引用
@article{arxiv.2303.03140,
title = {Cybersecurity of AI medical devices: risks, legislation, and challenges},
author = {Elisabetta Biasin and Erik Kamenjasevic and Kaspar Rosager Ludvigsen},
journal= {arXiv preprint arXiv:2303.03140},
year = {2023}
}