设计受托人工智能
计算机与社会
2023-08-07 v1 人工智能
摘要
受托人是一种受信任的代理人，负有对其所雇用的委托人忠诚且谨慎行事的法律义务。当受托组织通过数字界面与用户交互，或以人工智能使其运营自动化时，它们需要将这些 AI 系统设计为符合其义务。本文综合了计算机科学与法学近期的研究，以开发一种设计和审计受托人工智能（Fiduciary AI）的流程。受托人工智能的设计者应理解系统背景、识别其委托人，并评估这些委托人的最佳利益。然后，设计者必须相对于这些利益保持忠诚，并以符合背景的适当方式保持谨慎。我们将该流程中的步骤与可信赖人工智能（Trustworthy AI）的维度（如隐私和对齐）相联系。受托人工智能是一种有望解决数据主体在与复杂技术系统交互时同意不完整问题的手段。
引用
@article{arxiv.2308.02435,
title = {Designing Fiduciary Artificial Intelligence},
author = {Sebastian Benthall and David Shekman},
journal= {arXiv preprint arXiv:2308.02435},
year = {2023}
}