VTruST：基于可控价值函数的子集选择用于以数据为中心的可信人工智能
机器学习
2024-03-11 v1
摘要
可信人工智能（Trustworthy AI）对于人工智能在高风险应用中的广泛采用至关重要，其中公平性、鲁棒性和准确性是一些关键的可信度指标。在本工作中，我们提出了一个用于以数据为中心的可信人工智能（DCTAI）的可控框架——VTruST，该框架允许用户控制所构建训练数据集的不同可信度指标之间的权衡。实现高效 DCTAI 框架的一个关键挑战是设计一种基于在线价值函数的训练数据子集选择算法。我们将训练数据估值和子集选择问题表述为在线稀疏近似公式。我们提出了一种新颖的在线版本正交匹配追踪（Orthogonal Matching Pursuit, OMP）算法来解决这一问题。实验结果表明，VTruST 在社会、图像和科学数据集上的表现优于最先进的基线方法。我们还表明，由 VTruST 生成的数据价值可以为不同的可信度指标提供有效的以数据为中心的解释。
引用
@article{arxiv.2403.05174,
title = {VTruST: Controllable value function based subset selection for Data-Centric Trustworthy AI},
author = {Soumi Das and Shubhadip Nag and Shreyyash Sharma and Suparna Bhattacharya and Sourangshu Bhattacharya},
journal= {arXiv preprint arXiv:2403.05174},
year = {2024}
}
备注
Accepted in ICLR 2024 DMLR workshop