面向金融服务开发负责任的聊天机器人：一种模式导向的负责任AI工程方法
软件工程
2023-02-28 v2 人工智能
摘要
近期ChatGPT的发布在全球范围内引起了巨大关注和讨论，其中负责任AI成为讨论的关键议题。我们如何确保包括ChatGPT在内的AI系统以负责任的方式被开发和应用？为应对负责任AI的挑战，各国政府、组织和公司已发布多种伦理原则。然而，这些原则非常抽象且不够实用。此外，大量努力集中在仅解决公平性和隐私等少数原则的算法层面解决方案上。为填补这一空白，我们采用一种模式导向的负责任AI工程方法，构建了一个负责任AI模式目录，从系统视角将负责任AI操作化。在本文中，我们首先总结了大规模操作化负责任AI的主要挑战，并介绍我们如何使用负责任AI模式目录来应对这些挑战。随后，我们审视了聊天机器人开发过程每个阶段的风险，并推荐模式驱动的缓解措施，以评估负责任AI模式目录在真实场景中的实用性。
引用
@article{arxiv.2301.05517,
title = {Developing Responsible Chatbots for Financial Services: A Pattern-Oriented Responsible AI Engineering Approach},
author = {Qinghua Lu and Yuxiu Luo and Liming Zhu and Mingjian Tang and Xiwei Xu and Jon Whittle},
journal= {arXiv preprint arXiv:2301.05517},
year = {2023}
}