面向模型多重性下鲁棒溯因的论证集成
机器学习
2025-06-26 v1 人工智能
多智能体系统
摘要
在机器学习中，对于同一预测任务，通常可以获得多个性能相当的模型，例如，使用不同随机种子训练神经网络时。当这些竞争模型对同一输入的预测不同时，就产生了模型多重性，此时通常采用集成方法来确定输出的聚合。因此，在模型多重性下通过反事实解释提供溯因建议变得复杂，因为反事实解释可能并非对所有模型都有效，即反事实解释在模型多重性下不鲁棒。在这项工作中，我们形式化了在模型多重性下提供溯因的问题，并将其命名为溯因感知集成。我们提出，在模型多重性下，每个单独模型的反事实解释应与其预测一起考虑，以便聚合预测和溯因能够协同决定。围绕这一直觉，我们为这个问题的解决方案引入了六个理想属性。为了解决溯因感知集成问题，我们提出了一种新颖的论证集成方法，该方法保证了反事实解释在模型多重性下的鲁棒性。具体来说，我们的方法利用计算论证来显式地表示模型与反事实解释之间关于预测结果和反事实解释有效性的冲突。然后，它使用论证语义来解决冲突并获得最终解决方案，其方式对所选的语义是参数化的。我们的方法还允许在模型多重性下指定对模型的偏好，从而允许对集成进行进一步定制。在全面的理论分析中，我们刻画了使用四种不同论证语义的论证集成的行为。然后，我们通过我们方法的八个实例化，实证证明了我们的方法在满足理想属性方面的有效性。（摘要为 arXiv 缩短版。）
引用
@article{arxiv.2506.20260,
title = {Argumentative Ensembling for Robust Recourse under Model Multiplicity},
author = {Junqi Jiang and Antonio Rago and Francesco Leofante and Francesca Toni},
journal= {arXiv preprint arXiv:2506.20260},
year = {2025}
}
备注
arXiv admin note: substantial text overlap with arXiv:2312.15097