“目前一片杂乱”：考察 AI/ML 从业者在共制负责任 AI 价值观时的挑战
人工智能
2023-07-21 v1 人机交互
摘要
近来，AI/ML 研究界指出迫切需要在 AI/ML 生命周期中确立负责任 AI (RAI) 价值观与实践。若干组织与社区正通过分享 RAI 指南回应这一呼吁。然而，多学科 ML 从业者在意识、审议与执行此类实践方面存在缺口。本工作通过剖析从业者在对齐其 RAI 价值观时所面临的共制挑战，为相关讨论作出贡献。我们访谈了来自 10 个组织的 23 名个体，其任务是在秉持 RAI 规范的同时交付基于 AI/ML 的产品，发现自上而下与自下而上的制度结构均给不同角色带来负担，阻碍其秉持 RAI 价值观，而在执行相互冲突的价值观时该挑战进一步加剧。我们分享了从业者用作策略以解决其挑战的多种价值杠杆。我们在论文结尾给出了面向包容且公平的 RAI 价值实践、构建支持性组织结构与机会的建议，以进一步协助从业者。
引用
@article{arxiv.2307.10221,
title = {`It is currently hodgepodge'': Examining AI/ML Practitioners' Challenges during Co-production of Responsible AI Values},
author = {Rama Adithya Varanasi and Nitesh Goyal},
journal= {arXiv preprint arXiv:2307.10221},
year = {2023}
}