CONFIDERAI：一种用于可解释可靠人工智能的新型按设计可解释保形分数函数

日常生活日益受到人工智能的影响，毋庸置疑，机器学习算法必须被设计为对所有人可靠且可信。具体而言，计算机科学家认为，一个人工智能系统若满足五大支柱——可解释性、鲁棒性、透明性、公平性和隐私性——则是安全可信的。除这五点外，我们提出第六个基本方面：保形性（conformity），即系统将按机器学习者预期行为行事的概率保证。在本文中，我们提出一种方法，通过为基于规则的分类器定义新的分数函数，将保形预测与可解释机器学习联系起来；该函数利用了规则的预测能力、点在规则边界内的几何位置以及规则间的重叠，这得益于几何规则相似度项的定义。此外，我们通过利用保形临界集（conformal critical set）的定义并展示该集如何用于获得在目标类上性能更优的新规则，解决了在特征空间中定义满足保形保证的区域的问题。该整体方法在多个具有现实利益的数据集上进行了测试，取得了有前景的结果，例如域名服务器隧道检测或心血管疾病预测。