关于机器学习安全措施有效性的逻辑可靠论证
计算机科学中的逻辑
2022-01-11 v2 机器学习
摘要
我们研究了在机器学习函数安全性论证中实现充分严格性的问题。通过考虑基于 DNN 的 2D 边界框检测算法的已知弱点，我们通过将不精确的行人定位与安全目标相关联来锐化其度量。这种锐化导致在标准非极大值抑制之后引入保守的后处理器作为对策。然后，我们提出了一个半形式化保证案例来论证后处理器的有效性，该案例进一步转化为形式化证明义务，以展示论证的可靠性。应用定理证明不仅发现了引入缺失声明和数学概念的需要，还揭示了半形式化论证中使用的 Dempster-Shafer 规则的局限性。
引用
@article{arxiv.2111.02649,
title = {Logically Sound Arguments for the Effectiveness of ML Safety Measures},
author = {Chih-Hong Cheng and Tobias Schuster and Simon Burton},
journal= {arXiv preprint arXiv:2111.02649},
year = {2022}
}
备注
v2: fix typos and change some phrases to make the context clear