面向法律执法的 AI 辅助决策的用户中心设计

人工智能 (AI) 已成为我们日常生活中重要的一部分，但在法律执法领域设计 AI 辅助系统的用户需求仍不清晰。为此，我们在某法律执法机构开展了关于决策的定性研究。本研究旨在识别现有实践的局限性，探索用户需求并理解人类期望在这些系统中承担的责任。调查参与者突出了系统能够高效处理和分析大量数据以帮助犯罪检测和预防的需求。此外，系统需满足可扩展性、准确性、可解释性和可信度等要求，并能够适应法律执法领域的变化。参与者还强调了最终用户需审查可能 AI 难以解释的输入数据，并验证生成的输出以确保系统准确性。为跟上法律执法领域不断演变的需求，最终用户需要帮助系统适应犯罪行为和政府指导方针的变化，技术专家需要定期监督和监控系统。此外，与系统进行用户友好人机交互对于其采纳至关重要，一些参与者确认愿意在链中提供系统可从中学习的必要反馈。最后，我们认为由于法律执法领域的动态性和复杂性，系统不太可能实现完全自动化。