面向长期使用的以人为中心的AI赋能CPS的个性化基于模型设计

以人为中心的关键系统正越来越多地引入人工智能，以实现从传感器采集数据中提取知识。相关示例包括医疗监测与控制系统、基于手势的人机交互系统以及自动驾驶汽车。此类系统旨在长期运行，在许多场景下甚至可能终身运行，例如1型糖尿病的闭环血糖控制、自动驾驶汽车以及中风诊断和康复的监测系统。此类AI赋能的以人为中心的应用在长期运行中，可能会面临其运行状态不确定的边缘情况。这可能是由于诸多原因造成的，例如设计中的固有缺陷、有限的测试资源、测试方法固有的计算局限性，或人机交互导致的未知用例。此类未经测试的边缘情况或系统性能不确定的情况，可能导致系统在安全性、可持续性和安全性需求方面出现违规。在本文中，我们分析了用于AI赋能的以人为中心的控制系统的安全性、可持续性和安全性分析的现有技术，并讨论了它们在实际中测试系统长期使用时的局限性。随后，我们提出了基于个性化模型的解决方案，以期消除这些局限性。