信任解释以践行其所言
人机交互
2023-03-27 v1
摘要
我们应在多大程度上信任AI算法做出的决策?无端信任算法可能导致滥用,而不信任则同样可能导致弃用。对AI的信任仅在合理时才可取;因此,校准信任对确保恰当使用至关重要。为恰当校准信任,AI开发者应提供契约,明确指定算法可被信任与不可被信任的用例。AI输出的自动解释常被鼓吹为可建立对算法信任的方法。然而,自动解释本身源自算法,故对此类解释的信任同样仅在合理时才可取。解释AI输出的算法(xAI算法)的开发者应提供类似契约,指定解释可被信任与不可被信任的用例。
引用
@article{arxiv.2303.13526,
title = {Trust Explanations to Do What They Say},
author = {Neil Natarajan and Reuben Binns and Jun Zhao and Nigel Shadbolt},
journal= {arXiv preprint arXiv:2303.13526},
year = {2023}
}