挑战机器：政府 AI 系统的可 contestability 研究

在2023年10月的行政命令（EO）中，拜登总统提出了详尽但主要寄望于愿景的愿景，旨在确保人工智能（AI）的安全负责任开发与使用。将这些愿景具体化的挑战在于，将关于一个具体但关键问题——个体能否挑战其关于自身的政府决策——的要求转化为可操作的指导方针，使机构能够开发、采购和使用真正具可挑战性的高级自动决策系统。尽管行政部门自2023年10月EO以来采取了重要措施，但我们从工作坊汲取的经验仍高度相关，因为高级决策系统的可挑战性要求尚未完全明确或实施。工作坊邀请了技术人员、政府部门成员、民间组织、诉讼专家和研究者进行为期两天的紧密会议，探讨了在高级自动决策系统背景下，使用户、开发者和机构实现可挑战性所面临的挑战。为确保讨论的自由和开放，会议采取修改版的卡塔尔房规则：参与者可以自由使用所获信息或细节，但不得以言语者的身份或所属机构身份归因。因此，随后跟随的工作坊摘要对讲者及其所属机构进行了匿名化处理。若涉及机构、公司或组织的识别，均来自公开且已识别的资源，并不一定反映工作坊参与者所作的陈述。本文件是该工作坊报告，包括建议和解释性材料。