医疗混合智能系统中的道德决策：以团队设计模式方法解决偏差缓解与数据共享设计问题
人机交互
2021-02-23 v1 人工智能
计算机与社会
摘要
医疗领域日益增长的自动化呼唤混合智能（HI）方法，以深入研究并设计人与自主机器的协作。确保医疗 HI 系统的决策合乎伦理至关重要。团队设计模式（TDPs）可推进这一目标，其描述了具有道德成分的设计问题的成功且可复用的配置，并促进设计 HI 系统的多学科团队间的沟通。本研究开发了 TDPs，用以描述医疗 HI 系统中两个设计问题的解决方案集：（1）缓解机器学习算法中的有害偏差；（2）与医疗专业人员和系统开发人员共享健康及行为患者数据。研究采用了社会认知工程（SCE）方法，将操作需求、人因知识与技术分析整合为一组 TDPs。我们创建了调查以评估这些模式在可理解性、有效性和泛化性上的可用性。结果表明，TDPs 是一种有用的方法，可明确描述具有道德成分的、不同抽象层次上多样化 HI 设计问题的解决方案，且能被异质的多学科研究者群体使用。此外，结果表明 SCE 方法与所开发的问卷是创建和评估 TDPs 的合适方法。本研究总结提出了一系列 TDPs 的改进建议，包括其与交互设计模式的集成、若干附加概念的纳入以及若干方法学改进。最后，本文给出了未来研究方向建议。
引用
@article{arxiv.2102.11211,
title = {Moral Decision-Making in Medical Hybrid Intelligent Systems: A Team Design Patterns Approach to the Bias Mitigation and Data Sharing Design Problems},
author = {Jip van Stijn},
journal= {arXiv preprint arXiv:2102.11211},
year = {2021}
}
备注
87 pages, 13 figures