模糊大脑：ML驱动神经刺激的安全自动化压力测试

目标：机器学习（ML）模型越来越多地被用于生成神经假体设备（如视觉假体）中的电刺激模式。尽管这些模型承诺精确和个性化的控制，但当模型输出直接传递给神经组织时，它们也引入了新的安全风险。我们提出了一种系统、定量的方法来检测和表征ML驱动神经刺激系统中的不安全刺激模式。方法：我们将一种称为覆盖率引导模糊测试的自动化软件测试技术适配到神经刺激领域。在这里，模糊测试通过扰动模型输入并跟踪 resulting 刺激是否违反电荷密度、瞬时电流或电极共激活的生物物理极限来执行压力测试。该框架将编码器视为黑盒，并通过覆盖率指标引导探索，这些指标量化测试用例在可能输出和违规类型空间中的覆盖广度。主要结果：应用于视网膜和皮层的深度刺激编码器，该方法系统地揭示了超出已建立安全极限的多种刺激模式。两种违规-输出覆盖率指标识别出数量最多、多样性最高的不安全输出，从而能够在架构和训练策略之间进行可解释的比较。意义：面向违规的模糊测试将安全评估重新定义为经验性、可重复的过程。通过将安全性从训练启发式转化为部署模型的可测量属性，它为下一代神经接口的证据基础基准测试、监管准备和伦理保障奠定了基础。