极端情况数据的描述与检测
机器学习
2021-03-15 v2 人工智能
软件工程
摘要
作为影响深度学习模型安全性的主要因素，极端情况（corner case）及其检测在构建安全攸关与安保攸关系统的 AI 质量保证中至关重要。通用的极端情况研究涉及两个有趣的主题。其一是通过参数/结构上的调整增强 DL 模型对极端情况数据的鲁棒性。其二是生成新的极端情况用于模型再训练与改进。然而，复杂的架构与海量参数使得 DL 模型的鲁棒性调整并不容易，同时也不可能生成所有真实世界的极端情况用于 DL 训练。因此，本文提出一项简单而新颖的研究，旨在借助特定度量实现极端情况数据检测。该度量基于惊喜充分性（SA）发展而来，其在捕获数据行为方面具有优势。此外，针对极端情况数据的特征，本文针对基于距离的 SA 提出了三种改进，用于分类应用。进而，通过对 MNIST 数据与工业数据的实验分析，验证了所提方法在极端情况数据检测上的可行性与有用性。
引用
@article{arxiv.2101.02494,
title = {Corner case data description and detection},
author = {Tinghui Ouyang and Vicent Sant Marco and Yoshinao Isobe and Hideki Asoh and Yutaka Oiwa and Yoshiki Seo},
journal= {arXiv preprint arXiv:2101.02494},
year = {2021}
}