基于价值的快慢 AI 助推
人工智能
2023-07-18 v1 计算机与社会
人机交互
摘要
助推是一种旨在影响人们思维与行为的行为策略。助推技术可见于日常诸多情境，这些技术可针对人类快速而无意识的思维（例如通过图像引发恐惧），亦可针对更谨慎且费力的慢速思维（例如通过发布信息使我们反思自身选择）。本文提出并讨论了一种基于价值的 AI-人类协作框架，其中 AI 系统通过提出决策建议来助推人类。基于向人类呈现建议的时机，三种不同的助推模态旨在激发人类的快速思维、慢速思维或元认知。与特定决策情境相关的值被用于决定何时以及如何使用这些助推模态。值的例子包括决策质量、速度、人类技能提升与学习、人类能动性以及隐私。多个值可能同时存在，且其优先级可随时间变化。该框架将值视为需在具体决策环境中实例化的参数。
引用
@article{arxiv.2307.07628,
title = {Value-based Fast and Slow AI Nudging},
author = {Marianna B. Ganapini and Francesco Fabiano and Lior Horesh and Andrea Loreggia and Nicholas Mattei and Keerthiram Murugesan and Vishal Pallagani and Francesca Rossi and Biplav Srivastava and Brent Venable},
journal= {arXiv preprint arXiv:2307.07628},
year = {2023}
}