优雅退化及其相关领域

当机器学习模型遇到训练分布之外的数据时，它们往往表现不佳，最显著的是对错误预测过度自信。此类行为会对真实世界机器学习系统产生灾难性影响。在该领域中，优雅退化（graceful degradation）指的是模型在遇到此类分布外数据时对其性能的优化。本工作给出优雅退化的定义与讨论，并说明其在已部署视觉系统中的应用。随后对相关领域进行综述，新颖地将优雅退化问题划分为主动与被动两类方法。在被动方法中，优雅退化由模型以自包含方式处理并实现；在主动方法中，模型在遭遇认知不确定性时予以更新。本工作阐明了该问题的重要性，并旨在促进具有优雅退化意识的机器学习策略的发展。