机器学习系统副本的可信度保持
计算机科学中的逻辑
2025-06-06 v1 机器学习
摘要
机器学习系统开发的常见做法涉及在不同数据集上训练相同模型,以及使用相同 (训练和测试) 数据集对不同学习模型进行训练。前者是识别高质量和无偏训练条件的理想做法。后者相当于在共同数据集上寻找最佳模型。这些不同获得的系统被认为类似于副本。在负责任的人工智能的寻求中,一个合法但鲜有人调查的问题是如何验证副本是否保持可信度。在本文中我们引入一种计算方法来建模和验证数据和的概率复杂查询,并定义四种不同的概念: Justifiably、Equally、Weakly 和 Almost 可信,这些可以通过分析副本相对于其原始的 (部分) 行为来检查。我们提供了这些可信概念之间的关系研究,以及它们如何在逻辑运算下相互组成。旨在提供一种计算工具来检查可能的复杂系统相对于其行为已知的原始副本的可信度。
引用
@article{arxiv.2506.05203,
title = {Trustworthiness Preservation by Copies of Machine Learning Systems},
author = {Leonardo Ceragioli and Giuseppe Primiero},
journal= {arXiv preprint arXiv:2506.05203},
year = {2025}
}