AI治理中的法定职业及其对可解释AI的影响
计算机与社会
2023-06-16 v1
摘要
AI使用所带来的有意和无意危害已影响到个人的健康、安全和权利。尽管监管框架正在制定中，但对于交付安全AI所需的方法仍缺乏共识。可解释AI（XAI）对提升AI监管有效性的潜在贡献正日益受到审视。监管必须包含持续确保合规的方法，尽管目前缺乏关于如何实现这一点的实际提案。为使XAI成功纳入监管体系，从事向利益相关者解释/说明模型的人员应具备充分的岗位资质。在可能危害个人健康、安全和权利的领域中，法定专业人员十分普遍。最明显的例子是医生、工程师和律师。这些专业人员须运用技能与判断力，并在危害发生时为其决策过程辩护。我们提议引入法定职业框架，作为AI监管框架中用于合规与监控的必要组成部分。我们将这一新法定专业人员称为AI架构师（AI Architect, AIA）。该AIA将负责确保危害风险最小化，并在危害发生时承担责任。AIA还将被依赖向利益相关者提供XAI模型的恰当解释/说明。此外，为使自身确信模型以令人满意的方式开发，AIA将要求模型具备适当的透明度。因此，引入AIA体系很可能促使XAI使用增加，以使AIA能够履行其职业义务。
引用
@article{arxiv.2306.08959,
title = {Statutory Professions in AI governance and their consequences for explainable AI},
author = {Labhaoise NiFhaolain and Andrew Hines and Vivek Nallur},
journal= {arXiv preprint arXiv:2306.08959},
year = {2023}
}
备注
Accepted for publication at xAI-2023 conference