何时信任人工智能：神经网络认证技术的进展与挑战
机器学习
2023-09-21 v1 人工智能
密码学与安全
符号计算
摘要
人工智能（AI）正以飞快的速度发展，现已准备好部署于自动驾驶系统、医学诊断和自然语言处理等广泛应用。神经网络在早期应用于现实世界时并非没有问题，其可能不稳定且易受对抗样本影响。从长远来看，需要开发适当的安全保障技术，以减少因可避免的系统故障造成的潜在危害并确保可信性。本文聚焦认证与可解释性，概述了为确保 AI 决策安全而开发的技术，并讨论了未来的挑战。
引用
@article{arxiv.2309.11196,
title = {When to Trust AI: Advances and Challenges for Certification of Neural Networks},
author = {Marta Kwiatkowska and Xiyue Zhang},
journal= {arXiv preprint arXiv:2309.11196},
year = {2023}
}