ProML：一个用于机器学习软件系统溯源管理的去中心化平台
软件工程
2022-06-22 v1
摘要
大规模基于机器学习（ML）的软件系统正日益由位于不同信任域的分布式团队开发。内部威胁可从任意域发起攻击，以破坏 ML 资产（模型和数据集）。因此，从业者需要了解 ML 资产是如何以及由谁开发的，以评估其安全性、可靠性和公平性等质量属性。遗憾的是，ML 团队难以访问和重建此类 ML 资产的历史信息（ML 溯源），因为这些信息通常分散在分布式 ML 团队中，并受到攻击 ML 资产的同一对手的威胁。本文提出 ProML，一个利用区块链和智能合约使分布式 ML 团队能够在不依赖第三方的情况下联合管理关于流通中 ML 资产溯源的单一事实来源的去中心化平台，该第三方易受内部威胁影响且存在单点故障。我们提出了一种称为“制品即状态机”（Artefact-as-a-State-Machine）的新型架构方法，利用区块链交易和智能合约管理 ML 溯源信息，并引入用户驱动的溯源捕获机制，将现有脚本和工具集成到 ProML 中而不损害参与者对其资产和工具链的控制。我们通过对全球区块链上的概念验证系统进行基准测试来评估 ProML 的性能和开销。此外，我们针对分布式 ML 工作流的威胁模型评估了 ProML 的安全性。
引用
@article{arxiv.2206.10110,
title = {ProML: A Decentralised Platform for Provenance Management of Machine Learning Software Systems},
author = {Nguyen Khoi Tran and Bushra Sabir and M. Ali Babar and Nini Cui and Mehran Abolhasan and Justin Lipman},
journal= {arXiv preprint arXiv:2206.10110},
year = {2022}
}
备注
Accepted as full paper in ECSA 2022 conference. To be presented