基于强化学习的医学问卷系统对抗攻击：输入级扰动策略与医学约束验证
密码学与安全
2025-08-11 v1 人工智能
机器学习
摘要
基于强化学习的医学问卷系统展现出巨大的潜力，但其安全性和鲁棒性仍未得到解决。本研究对对抗攻击方法进行全面评估，以识别和分析其潜在漏洞。我们将诊断过程建模为马尔可夫决策过程（MDP），其中状态为患者响应和未提问的问题，动作为提问或诊断。我们实现了六种主流攻击方法，包括快速梯度符号法（FGSM）、投影梯度下降（PGD）、Carlini与Wagner攻击（C&W）、基本迭代法（BIM）、DeepFool和AutoAttack，每个方法使用七个epsilon值。为确保生成的对抗样本在临床上具有可行性，我们开发了包括247项医学约束的综合性医学验证框架，涵盖生理范围、症状关联及条件医学约束。我们实现了97.6%的临床可行对抗样本生成成功率。在由美国全国健康访谈调查（NHIS）数据集（https://www.cdc.gov/nchs/nhis/）提供支持的实验中（包含182,630个样本），用于预测受访者4年死亡率。我们对针对arXiv:2004.00994中提出的AdaptiveFS框架进行了攻击评估。结果表明，对抗攻击显著影响诊断准确性，攻击成功率 ranging from 33.08%（FGSM）到64.70%（AutoAttack）。我们的工作表明，即便在严格的医学约束下，基于强化学习的医学问卷系统仍存在显著漏洞。
引用
@article{arxiv.2508.05677,
title = {Adversarial Attacks on Reinforcement Learning-based Medical Questionnaire Systems: Input-level Perturbation Strategies and Medical Constraint Validation},
author = {Peizhuo Liu},
journal= {arXiv preprint arXiv:2508.05677},
year = {2025}
}
备注
30 pages (21 pages main text, 3 pages references, 6 pages appendix), 4 figures