可信、伦理与负责任自动化设计的六项指南
人机交互
2025-08-05 v1 计算与语言
摘要
对自动化系统的校准可信度( Lee and See 2004)对于其安全无缝地集成到社会中至关重要。用户应仅在系统建议实际正确时依赖它，在其事实错误时予以拒绝。实现这一目标的一个要求是准确的可信度评估，确保用户对系统可信度的感知与其实际可信度一致，使用户能够就其可信度范围作出明智决策(Hoff and Bashir 2015)。我们提出六项设计指南以帮助设计师优化准确的可信度评估，从而促进伦理和负责任的人机交互。所提出的指南源自各领域的现有文献，包括人机交互、认知心理学、自动化研究、用户体验设计和伦理学。我们整合了语义学领域的关键原则，具体包括培养共同 ground(H. H. Clark 1996)和Gricean 交流准则(Grice 1975)。这些原则对于自动化系统的设计至关重要，因为用户对系统可信度的感知受制于环境上下文，如组织文化或社会规范，以及特定情境情境，包括交互发生的具体情形。我们的提出指南为设计师提供了可操作性见解，以创建使相关可信度线索可用的自动化系统。这理想情况下会促进校准可信度并实现更满意、更高效、更安全的人机自动化系统交互。此外，提出的启发式方法可能用作评估现有系统在多大程度上使用户能够准确评估系统可信度的工具。
引用
@article{arxiv.2508.02371,
title = {Six Guidelines for Trustworthy, Ethical and Responsible Automation Design},
author = {Matouš Jelínek and Nadine Schlicker and Ewart de Visser},
journal= {arXiv preprint arXiv:2508.02371},
year = {2025}
}