社会与司法约束下深度学习的数学算法设计：算法透明性要求
机器学习
2024-01-22 v1 人工智能
计算复杂性
摘要
深度学习在可信度方面仍存在缺陷，可信度描述了一种可理解、公平、安全且可靠的方法。为了减轻人工智能的潜在风险，已通过监管指南提出了与可信度相关的明确义务，例如《欧盟人工智能法案》。因此，一个核心问题是可信深度学习能在多大程度上实现。建立构成可信度的所述属性要求能够追溯影响算法计算的因素，即算法实现是透明的。受当前深度学习模型的演变需要计算技术变革这一观察的启发，我们推导了一个数学框架，使我们能够分析在计算模型中实现透明实现是否可行。我们示例性地将我们的可信度框架应用于分析由图灵机和 Blum-Shub-Smale 机分别表示的数字和模拟计算模型中反问题的深度学习方法。基于先前结果，我们发现 Blum-Shub-Smale 机在相当一般的条件下有潜力建立反问题的可信求解器，而图灵机无法保证同等程度的可信度。
引用
@article{arxiv.2401.10310,
title = {Mathematical Algorithm Design for Deep Learning under Societal and Judicial Constraints: The Algorithmic Transparency Requirement},
author = {Holger Boche and Adalbert Fono and Gitta Kutyniok},
journal= {arXiv preprint arXiv:2401.10310},
year = {2024}
}