质疑 AI：通过反思促进决策自主性
人机交互
2024-09-17 v1
摘要
决策日益得到机器推荐的支持。例如在医疗保健领域，医生使用临床决策支持系统为患者寻找治疗方案。在此过程中，人们可能过度依赖这些系统，从而损害自身的推理过程。欧洲 AI Act 应对了过度依赖的风险，并在第 14 条关于人类监督的规定中提出，人们应能够“保持对自动依赖或过度依赖输出之可能倾向的警觉”。类似地，欧盟高级专家组将人类能动性与监督列为可信 AI 七项关键要求之首。以下立场论文提出了一种概念方法，旨在针对当前决策生成机器问题，以促进决策自主性。这种参与反过来允许对推荐系统进行监督。对与决策相关的人机交互进行系统性跨学科研究（如机器学习、用户体验设计、心理学、技术哲学），为以下问题提供了见解：如何增加人类监督并校准对机器推荐的过度依赖与依赖不足；如何提高决策自主性并保持对重复现状的自动化建议之外其他可能性的警觉？
引用
@article{arxiv.2409.10250,
title = {Questioning AI: Promoting Decision-Making Autonomy Through Reflection},
author = {Simon WS Fischer},
journal= {arXiv preprint arXiv:2409.10250},
year = {2024}
}
备注
Accepted at the 7th FAccTRec Workshop on Responsible Recommendation at ACM RecSys 2024