AI Mismatches: 在AI开发前识别潜在算法性伤害
人机交互
2025-04-16 v2 人工智能
摘要
AI系统常被引入时寄予厚望，然而许多系统难以实现，导致意外的伤害和错失机会。我们经常观察到显著的"AI Mismatches"，即系统的实际性能不足以确保安全和共创价值。一旦开发进入后期，这些不匹配尤其难以解决，凸显了需要在早期阶段进行干预的必要性。导航由复杂多维风险因素构成的环境，这些因素导致AI Mismatches，始终是一个持续的挑战。为此，我们提出了一种AI Mismatch方法，用于提前预估并缓解风险，聚焦于现实模型性能与所需任务性能之间的差距。通过分析774个AI案例，我们提取了一组关键因素，这些因素指导了七个矩阵的开发，这些矩阵描绘了这些因素之间的关系，并凸显高风险区域。通过案例研究，我们展示了我们的 метод如何有助于减少AI开发中的风险。
引用
@article{arxiv.2502.18682,
title = {AI Mismatches: Identifying Potential Algorithmic Harms Before AI Development},
author = {Devansh Saxena and Ji-Youn Jung and Jodi Forlizzi and Kenneth Holstein and John Zimmerman},
journal= {arXiv preprint arXiv:2502.18682},
year = {2025}
}
备注
CHI Conference on Human Factors in Computing Systems (CHI '25), April 26-May 1, 2025, Yokohama, Japan