AI 误拟: 盲人如何验证与争议 AI 错误
人机交互
2024-08-14 v1
摘要
盲人使用人工智能驱动的视觉辅助技术（AI VAT）以获取日常生活中的视觉访问，但这些技术嵌入了难以非视觉验证的错误。以往研究主要探讨盲人用户对 AI 输出的理解，构建依赖视力的可解释 AI（XAI）功能。我们通过对 26 名盲人进行深入的定性研究，拓展这一文献，理解他们的验证经验与偏好。我们首先描述盲人所遇到的错误，突出 AI VAT 在支持复杂文档布局、多语言和文化性文物方面的不足。随后，我们阐明盲人如何通过实验 AI VAT、运用非视觉技能、战略性地包含盲人以及与其他设备交叉引用来理解 AI。参与者提供了详细的可访问 XAI 设计机会，如支持争议的便利功能。基于残疾研究框架中的“误拟”与“适配”，我们剖析了 AI VAT 中的有害假设，强调庆祝残疾知识方式的重要性。最后，我们提供了面向负责任 AI 实践的实用建议，以推动可访问 XAI 领域的发展。
引用
@article{arxiv.2408.06546,
title = {Misfitting With AI: How Blind People Verify and Contest AI Errors},
author = {Rahaf Alharbi and Pa Lor and Jaylin Herskovitz and Sarita Schoenebeck and Robin Brewer},
journal= {arXiv preprint arXiv:2408.06546},
year = {2024}
}
备注
To Appear in ASSETS 2024